Uma vasta rede de desinformação russa manipulou chatbots de inteligência sintética ocidental (IA): plataformas de sabor ChatGPT para espalhar propaganda em favor do governo russo. É isso que um exame do Observatório de Newsguard que analisou dez chatbots dos líderes do setor no Ocidente.
Segundo a pesquisa, os chatbots analisaram as mentiras repetidas distribuídas pela rede Pravda (mais sobre este tópico deste artigo) em mais de 33% dos testes.
A rede Pravda – também conhecida como “Portal Kombat” – é uma operação baseada em Moscou e bem financiada. Seu objetivo é espalhar narrativas pró-Kremlin mundo afora. E ela estaria distorcendo as respostas dos chatbots ao inundar grandes modelos de linguagem (LLMs, na sigla em inglês) com mentiras a favor do governo russo, segundo o estudo em questão.
Ainda de acordo com a pesquisa, a ameaça vai além dos modelos de IA generativa que captam desinformação na web. A rede mira deliberadamente em chatbots para alcançar um público mais amplo, numa tática de manipulação que os pesquisadores chamam de “LLM grooming”.
“Quantidades massivas de propaganda russa — 3.600.000 artigos em 2024 — agora estão incorporadas nas saídas dos sistemas de IA ocidentais, infectando suas respostas com alegações falsas e propaganda“, escreveram os pesquisadores McKenzie Sadeghi e Isis Blachez, do NewsGuard.
Num estudo separado, o American Sunlight Project alertou sobre o alcance crescente da rede Pravda. E a probabilidade de que seu conteúdo pró-Rússia estivesse inundando os dados usados em treinamentos de grandes modelos de linguagem, segundo a AFP (via TechXplore).
A capacidade da rede Pravda de espalhar desinformação em tal escala é sem precedentes, e seu potencial de influenciar sistemas de IA torna essa ameaça ainda mais perigosa.
Leia mais:
A disseminação de desinformação pró-Rússia pode aumentar conforme os Estados Unidos recuam no front cibernético contra Moscou, alertaram os especialistas ouvidos pela agência de notícias.
Recentemente, a imprensa estadunidense repercutiu a ordem do Secretário de Defesa, Pete Hegseth, para pausar as operações cibernéticas do país contra a Rússia, incluindo o planejamento de ações ofensivas.
A mudança de postura dos EUA ocorre enquanto o presidente Donald Trump pressiona por negociações para terminar a guerra entre Rússia e Ucrânia, que ocorre há três anos.
Recentemente, o líder dos EUA repreendeu o presidente da Ucrânia, Volodymyr Zelensky, numa reunião polêmica na Casa Branca. O Pentágono se recusou a comentar sobre o assunto.
Pedro Spadoni é jornalista formado pela Universidade Metodista de Piracicaba (Unimep). Já escreveu para sites, jornal e revista. No Olhar Digital, onde escreve sobre (quase) tudo.