Uma vasta rede de desinformação russa manipulou chatbots ocidentais de inteligência sintética (IA): plataformas no estilo ChatGPT para espalhar propaganda pró-governo russo. É o que examina por meio do Observatório Newsguard que analisou dez chatbots de líderes do setor no Ocidente.
De acordo com a pesquisa, os chatbots analisaram mentiras repetidas distribuídas na rede Pravda (mais sobre este artigo) em mais de 33% dos testes.
A rede Pravda, também conhecida como “Portal Kombat”, é uma operação com sede em Moscou e bem financiada.
De acordo com a pesquisa, o risco vai além dos modelos generativos de IA que capturam informações incorretas da web. A rede visa intencionalmente os chatbots para ter sucesso com um público mais amplo, em uma tática de manipulação que os pesquisadores chamam de “preparação do LLM”.
“As enormes quantidades de publicidade russa – 3. 600. 000 artigos em 2024 – estão agora nos sistemas de IA ocidentais, infectando suas respostas com falsas alegações e publicidade”, escreveram os pesquisadores McKenzie Sadeghi e Isis Blachez, do The Newsuard.
Em um estudo separado, o American Sunlight Project alertou sobre o desenvolvimento da diversidade da rede Pravda. E a probabilidade de que seu conteúdo pró-russo inunde o conhecimento usado no treinamento de modelos de linguagem, de acordo com a AFP (via TechXplore).
O talento do Pravda para a desinformação em tal escala é sem precedentes, e sua previsão de influenciar os sistemas de IA torna esse risco ainda mais perigoso.
Saiba Mais:
A disseminação de desinformação pró-Rússia possivelmente aumentaria à medida que os EUA se retirassem para a frente cibernética oposta a Moscou, alertou Mavens em entrevista à empresa de notícias.
Recentemente, a imprensa norte-americana pediu a ordem do secretário de Defesa, Pete Hegseth, para suspender as operações cibernéticas do país contra a Rússia, acrescentando planos para ações ofensivas.
A mudança na postura dos EUA ocorre no momento em que o presidente Donald Trump pressiona por negociações para encerrar a guerra de três anos entre a Rússia e a Ucrânia.
O líder dos EUA recentemente repreendeu o presidente ucraniano Volodymyr Zelensky, uma assembleia discutível na Casa Branca. O Pentágono se recusou a comentar o assunto.
Pedro Speponi é jornalista formado pela Metodista de Piracicaba (UNIMEP). Já escreveu para sites, jornais e revistas. Na vertente virtual, onde escreve em (quase) tudo.