Uma vasta rede de desinformação russa manipulou chatbots ocidentais de inteligência sintética (IA): plataformas no estilo ChatGPT para espalhar propaganda pró-governo russo. É o que examina por meio do Observatório Newsguard que analisou dez chatbots de líderes do setor no Ocidente.
De acordo com a pesquisa, os chatbots analisaram mentiras repetidas distribuídas na rede Pravda (mais sobre este artigo) em mais de 33% dos testes.
A rede Pravda, também conhecida como “Portal Kombat”, é uma operação com sede em Moscou e bem financiada.
Segundo a pesquisa, o risco vai além dos modelos generativos de IA que capturam informações incorretas da Web. A rede aborda intencionalmente os chatbots para ter sucesso em um público mais amplo, em uma tática de manipulação que os pesquisadores chamam de “preparação do LLM”.
“As enormes quantidades de publicidade russa, 3. 600. 000 artigos em 2024, estão agora nos sistemas ocidentais de IA, infectando suas respostas com declarações falsas e publicidade”, escreveu os pesquisadores McKenzie Sadeghi e Isis Blachez do Newsuard.
Em um estudo separado, o American Sunlight Project alertou sobre o desenvolvimento da diversidade da rede Pravda. E a probabilidade de que seu conteúdo pró-russo inunde o conhecimento usado no treinamento de modelos de linguagem, de acordo com a AFP (via TechXplore).
O talento do Pravda para a desinformação em tal escala é sem precedentes, e sua previsão de influenciar os sistemas de IA torna esse risco ainda mais perigoso.
Saiba Mais:
A disseminação de desinformação pró-Rússia possivelmente aumentaria à medida que os EUA se retirassem para a frente cibernética oposta a Moscou, alertou Mavens em entrevista à empresa de notícias.
Recentemente, a imprensa norte-americana repercutiu na ordem do secretário de Defesa Pete Hegseth de suspender as operações cibernéticas do país em oposição à Rússia, acrescentando planos para ações ofensivas.
A mudança na postura dos EUA ocorre no momento em que o presidente Donald Trump pressiona por negociações para encerrar a guerra de três anos entre a Rússia e a Ucrânia.
O líder americano recentemente repreendeu o presidente ucraniano, Volodymyr Zelensky, uma assembléia discutível na Casa Branca. O Pentágono se recusou a comentar o assunto.
Pedro Speponi é um jornalista que se formou na Universidade Metodista de Piracicaba (Unimep). Curso escrito para weblicitames, puts and Magazine. No aspecto virtual, onde ele escreve sobre (quase) tudo.