Para rever este artigo, selecione O Meu Perfil e, em seguida, Ver Histórias Guardadas.
Por David Gilbert
As manchetes foram desastrosas: “China usará IA para interromper eleições nos EUA, Coreia do Sul e Índia”, alerta a Microsoft. Outro afirmou: “A China é uma IA para semear desinformação e provocar discórdia na Ásia e nos Estados Unidos”.
Eles se baseiam em um relatório divulgado no início deste mês pelo Centro de Análise de Ameaças da Microsoft, que descreve como uma cruzada chinesa de desinformação é agora uma geração sintética para alimentar divisões e interromper eleições nos Estados Unidos e em todo o mundo. A cruzada, que já mirou eleições em Taiwan, usa arquivos de áudio gerados por IA e memes projetados para chamar a atenção dos usuários e aumentar seu engajamento.
Mas o que essas manchetes e a própria Microsoft não conseguiram transmitir adequadamente é que a campanha de desinformação ligada ao governo chinês, conhecida como Dragon Scavenging ou Dragonbridge, tem sido praticamente ineficaz.
“Eu chamaria as campanhas de desinformação da China de Rússia 2014. Eles tinham 10 anos”, disse Clint Watts, gerente geral do Centro de Análise de Ameaças da Microsoft. “Eles verificam muitas outras coisas, mas sua sofisticação ainda é muito baixa. “
Nos últimos 24 meses, a cruzada passou de um conteúdo predominantemente pró-China para um alvo mais competitivo da política dos EUA. Embora esses esforços tenham sido em grande escala e em dezenas de plataformas, eles falharam em grande parte em causar um impacto genuíno. , especialistas alertam que basta uma mensagem amplificada por meio de uma conta de influenciador para substituir tudo isso.
“Spam é como jogar espaguete contra a parede, e eles jogam muito disso”, diz Jack Stubbs, diretor de dados da Graphika, uma empresa de análise de mídia social que foi uma das primeiras a identificar a campanha Spamouflage. “O volume e a escala desse caso são enormes. Eles transmitem vários vídeos e desenhos animados todos os dias, amplificados em outras plataformas em escala global. Por enquanto, a grande maioria acaba sendo qualquer coisa que não se sustenta, mas isso não significa que provavelmente não dure no futuro. “
Desde pelo menos 2017, o Spamouflage exibe conteúdo projetado para interromper eventos primários globais, agregando tópicos tão variados quanto protestos pró-democracia em Hong Kong, a eleição presidencial dos EUA e a eleição presidencial dos EUA. Parte de uma cruzada maior e multibilionária por influência Administrada pelo governo chinês, a cruzada usou contas em dezenas de plataformas da web que vão do X e YouTube a plataformas mais marginais como o Gab, onde a cruzada tentou anunciar conteúdo pró-China. Também esteve entre os primeiros a adotar a tecnologia mais recente. técnicas como fotos de perfil geradas por IA.
Apesar de todos esses investimentos, especialistas dizem que a cruzada fracassou em grande parte devido a uma série de fatores, adicionando questões de contexto cultural, a separação online da China do mundo exterior por meio do Grande Firewall e a falta de pensamento conjunto entre a mídia estatal e os militares.
“Esta tem sido a história do Spamouflage desde 2017: eles são enormes, são, e ninguém olha para eles, a menos que os pesquisadores olhem para eles”, explica Elise Thomas, analista sênior de código aberto do Instituto para o Diálogo Estratégico que tem acompanhado a campanha Spamouflage. Anos.
Por Joe Ray
Por Matt Kamen
Por Carlton Reid
Por Matt Simon
“A maioria dos tuítes não obtém engajamento e tem um número muito baixo de visualizações, ou são usados por meio de outras contas que parecem fazer parte da rede Spamouflage”, escreveu Thomas em um relatório para o Instituto para o Diálogo Estratégico sobre o fracasso da campanha em 2017. Fevereiro.
Nos últimos cinco anos, pesquisadores que acompanharam a campanha observaram sua tentativa de substituir táticas, vídeos, locuções automatizadas e, mais recentemente, a adoção de inteligência artificial para criar fotos de perfil e conteúdo projetado para inflamar as divisões existentes.
A adoção de tecnologias de IA também é necessariamente um indicador de que a campanha está se tornando mais sofisticada, mas simplesmente mais eficaz.
“A principal característica desses produtos de IA da geração é poder e escalabilidade”, diz Stubbs. “Permite fazer mais do mesmo com menos recursos. É mais barato e mais rápido, mas não vemos isso como um sinal de sofisticação. “. O acesso a esses produtos é incrivelmente simples. Qualquer pessoa pode fazê-lo com US $ 5 em um cartão de crédito.
A cruzada também se posicionou em praticamente todas as plataformas de mídia social, adicionando Facebook, Reddit, TikTok e YouTube. Ao longo dos anos, as principais plataformas expurgaram seus sistemas de milhares de contas conectadas à cruzada, acrescentando no ano passado, quando a Meta encerrou o que chamou de “a maior operação de influência secreta multiplataforma conhecida do mundo”.
O governo dos EUA também tentou conter esse esforço. Há um ano, o Ministério da Justiça indiciou 34 funcionários do “Grupo de Trabalho sobre o Projeto Especial 912” do Ministério da Segurança Pública da China por envolvimento em uma cruzada de influência. Embora o Departamento de Justiça não vincule explicitamente as prisões ao Spamouflage, uma fonte familiarizada com o evento disse à WIRED que a cruzada foi patrocinada “100%” pelo Estado chinês. A fonte falou sob condição de anonimato porque não estava autorizada a falar publicamente sobre a informação.
“Um publicitário não faria isso”, diz Thomas, que também acredita que a cruzada está sendo realizada por meio do governo chinês. “Eles são mais inovadores. Eles teriam substituído suas táticas, enquanto é incomum que uma cruzada de comunicação do governo dure muito. um longo tempo em que é inútil. “
No entanto, nos últimos sete anos, o conteúdo impulsionado pela cruzada Spamouflage careceu de nuances e conteúdo específico do público, como incluído em uma campanha de desinformação bem-sucedida em regiões geográficas de países como Rússia, Irã e Turquia.
“Eles confundem o contexto cultural, é por isso que você os vê cometendo erros”, diz Watts. “Eles estão na plateia e estão falando sobre coisas que não fazem sentido e o público sabe disso, então eles não estão interessados no conteúdo. Eles raramente deixam caracteres chineses em suas mensagens.
Isso ocorre em parte porque os cidadãos chineses estão praticamente isolados do mundo exterior devido ao Grande Firewall, que permite ao governo chinês controlar estritamente o que seus cidadãos veem e compartilham na internet. De acordo com especialistas, isso torna tudo incrivelmente complicado. para que aqueles que dirigem uma operação de influência realmente entendam como manipular efetivamente o público fora da China.
Por Joe Ray
Por Matt Kamen
Por Carlton Reid
Por Matt Simon
“Eles precisam adaptar métodos que poderiam ter usado em plataformas fechadas e rigidamente controladas, como WeChat e Weibo, para funcionar em uma internet aberta”, diz Thomas. “Assim, você pode inundar o WeChat e o Weibo com conteúdo, se precisar. “”É o governo chinês, enquanto você não pode inundar a internet aberta. É um pouco como tentar inundar o mar. “
Stubbs concorda. Seu ambiente nacional de dados não é autêntico nem original”, diz. “Eles agora são encarregados de influenciar e influenciar o efeito operacional estratégico em um ambiente de dados flexível e original, que é fundamentalmente outro lugar. “
As campanhas de influência russas também tendem a se coordenar entre fileiras de porta-vozes do governo, mídia estatal, influenciadores e contas de bots nas redes sociais. Todos eles transmitem a mesma mensagem ao mesmo tempo, algo que os operadores do Spamouflage não fazem. Isso foi observado recentemente quando o aparato de desinformação russo foi ativado para semear o departamento nos Estados Unidos em torno da crise fronteiriça no Texas, reforçando o comboio fronteiriço liderado por extremistas e pedindo uma “guerra civil” na mídia estatal, canais influentes do Telegram e bots de mídia social. Ao mesmo tempo.
“Acho que o maior desafio é que [a campanha chinesa] não está sincronizando seus esforços”, disse Watts. “Eles são muito lineares em termos de trabalho, seja na mídia aberta ou em algum tipo de mídia secreta. Eles fazem isso e fazem em escala, mas não está em sincronia com seus objetivos porque é um esforço vertical.
Alguns dos conteúdos produzidos durante a campanha pareciam ter um grande número de curtidas e respostas, mas uma inspeção mais detalhada revelou que essas interações vieram de outras contas na rede Spamouflage. “É uma rede muito isolada, interagindo apenas consigo mesma”, diz Thomas.
Watts não acredita que as campanhas de desinformação da China terão um efeito dramático nas eleições americanas, mas acrescenta que a situação “pode mudar quase instantaneamente”. Se a conta correta [uma postagem de uma conta de bot chinesa] aparecer e for fornecida por uma voz, seu volume aumentará repentinamente.
Segundo Thomas, isso já aconteceu antes.
Um artigo, escrito sobre X através de uma conta que Thomas seguiu e que já foi suspenso, fez referência a “MAGA 2024” em sua biografia. Ele compartilhou um vídeo da emissora pública russa RT em que o presidente Joe Biden e a CIA enviaram um neonazista para lutar. na Ucrânia, uma alegação que foi negada pelo grupo de pesquisa Bellingcat. Como a maioria das postagens de Spamouflage, o vídeo a princípio ganhou pouca atenção, mas quando foi compartilhado por meio da conta do co-conspirador Alex Jones, que tem mais de 2,2 milhões de fãs na plataforma, acumulou temporariamente milhares de visualizações.
“O que é diferente nessas contas MAGAflage é que há outras pessoas genuínas nelas”, acrescentou Alex Jones. Este é o tweet mais estranho que já vi na minha vida”, disse Thomas.
Thomas diz que a conta compartilhada por meio de Jones é distinta das contas típicas da Flyfly, pois não transmitia conteúdo automatizado, mas buscava interagir organicamente com outros usuários de uma forma que os fizesse parecer uma pessoa genuína, lembrando o ditado russo. Fê-lo antes da eleição de 2016.
Por Joe Ray
Por Matt Kamen
Por Carlton Reid
Por Matt Simon
Até agora, Thomas diz que só descobriu quatro dessas contas, que ele apelidou de “MAGAFlage”, mas ele está preocupado que haja muitas outras operando sob o radar que serão incrivelmente difíceis de localizar sem o back-end do X.
“Meu medo é que eles estejam começando a fazer isso, ou talvez já estejam fazendo, em uma escala realmente significativa”, disse Thomas. “E se isso acontecer, acho que vai ser muito difícil de detectar, especialmente para pesquisadores externos. Se eles começarem a fazer isso com novas contas que não têm as que a rede Spamouflage está interessada e se hipoteticamente se sobrepõe a essas conexões, se eles começarem a empregar modelos de linguagem gigantes “Para gerar texto com IA, acho que estamos com muitos problemas. “
Stubbs afirma que a Graphika tem rastreado contas de Spamouflage que buscam se passar pelo eleitorado americano desde antes das eleições de meio de mandato de 2022, e ainda não viu nenhum sucesso genuíno. E embora ele ache vital relatar esses esforços, ele está preocupado que essas campanhas de alto perfil possam ofuscar as menores.
“Vamos ver um número crescente de debates públicos e relatórios sobre campanhas como Spamouflage e Doppelganger na Rússia, precisamente porque já as conhecemos”, diz Stubbs. “Essas duas campanhas são exemplos de atividades em uma escala incrivelmente alta, mas também muito fáceis de detectar. [Mas] estou mais envolvido e preocupado com as coisas que não sabemos. “
Na sua caixa de entrada: obtenha texto simples: a visão de longo prazo de Steven Levy sobre tecnologia
Eu estava disfarçado de uma discussão secreta no Onlyfans. Não era bonito.
O futuro pouco atraente da IA generativa está nos aplicativos corporativos
RFK Jr. se prepara para negacionismo eleitoral
Não se preocupe: aqui estão os colchões que você pode comprar online
Guilherme Turton
David Gilberto
André Greenberg
Dhruv Mehrotra
Tess Owen
Matt Burgess
Emily Mullin
Dhruv Mehrotra
Mais de WIRING
Avaliações & Guias
© 2024 Condé Nast. Todos os direitos reservados. A WIRED possivelmente obteria uma parte das vendas de produtos comprados através do nosso site através de nossas parcerias de parceiros com varejistas. Os tecidos deste site não podem ser reproduzidos, distribuídos, transmitidos, armazenados em cache ou usados de outra forma sem a permissão prévia por escrito da Condé Nast Ad Options.