Uma vasta rede de desinformação russa manipulou chatbots de inteligência sintética ocidental (IA): plataformas de sabor de chatgpt para espalhar propaganda em favor do governo russo. É isso que um exame do Observatório de Newsguard que analisou dez chatbots dos líderes do setor no Ocidente.
Segundo a pesquisa, os chatbots analisaram as mentiras repetidas distribuídas pela rede Pravda (mais sobre este artigo) em mais de 33% dos testes.
A rede Pravda, também conhecida como “Kombat Portal”, é uma operação em Moscou e bem financiada. Seu objetivo é disseminar contas pró-Kremlin em todo o mundo. E ela deformaria as respostas dos chatbots através da inundação de modelos de idiomas primários (LLM) com mentiras a favor do governo russo, de acordo com o exame em questão.
Segundo a pesquisa, o risco vai além dos modelos generativos que capturam a desinformação na web. A rede aborda intencionalmente os chatbots para ter sucesso em um público mais amplo, em uma tática de manipulação que os pesquisadores chamam de “llm hrooming”.
“As enormes quantidades de publicidade russa, 3. 600. 000 artigos em 2024, agora são incorporados aos sistemas ocidentais de IA, infectando suas respostas por meio de acusações falsas e publicidade”, escreveu os pesquisadores McKenzie Sadeghi e Isis Blachez da NewsUard.
Em um estudo separado, o projeto American Sunlight alertou o oposto à diversidade no desenvolvimento da rede Pravda. E a probabilidade de seu conteúdo pró-fins inundar o conhecimento usado na formação de modelos de linguagem, de acordo com a AFP (através da TechXplore).
A capacidade de informação errônea do Pravda em tal escala não é precedida, e seu prospectivo de influenciar os sistemas de IA torna esse risco ainda mais perigoso.
Saiba Mais:
A propagação da desinformação prolusa pode se acumular à medida que os Estados Unidos se retiram da frente cibernética oposta a Moscou, os Mavens alertaram através da empresa de notícias.
Recentemente, as repercussões da imprensa americana da Ordem do Secretário de Defesa, Pete Hegesh, para suspender as operações cibernéticas do país que se opõem à Rússia, acrescentando planos de ações ofensivas.
A substituição na posição americana ocorre, enquanto o presidente Donald Trump exerce tensão nas negociações para encerrar a guerra entre a Rússia e a Ucrânia, que está se posicionando há 3 anos.
O líder americano recentemente repreendeu o presidente ucraniano Volodymyr Zelensky em um argumento discutível na Casa Branca. O Pentágono se recusou a comentar o assunto.
Pedro Speponi é um jornalista de pós -graduação do Metodista Piracicaba (Unimep). Já escrito para sites, jornais e revistas. No aspecto virtual, onde ele escreve (quase) tudo.