Os criminosos digitais usaram equipamentos da OpenAI para atrair diretores de páginas online para uma rede de otimização de mecanismos de pesquisa fraudulentos (otimização de mecanismos de pesquisa). A estratégia é criar mensagens personalizadas com inteligência geral sintética que pode contornar filtros e captchas.
A operação conhecida através da cibersegurança corporativa Sentineone. Agradecendo aos pesquisadores, uma ferramenta conhecida como Akirabot usada para verificar a distribuição de SPAM para cerca de 420. 000 sites da Internet, em 80. 000 deles, a tentativa bem-sucedida.
Os principais alvos eram as pequenas e médias empresas. As mensagens foram enviadas por meio de sistemas burocráticos táteis ou serviço de chat. As mensagens automatizadas apresentadas em pacotes de otimização de mecanismos de pesquisa por US $ 30 consistentes com o mês eram aparentemente falsas ou praticamente inúteis.
“Quando uma nova mídia virtual de comunicação ganha popularidade, agentes maliciosos exploram inevitavelmente para disseminar spam, para tomar o mérito de usuários desavisados”, diz Sentinelone. “
Os funcionários do golpe usaram a API do OpenAI para gerar mensagens personalizadas, o Mini Model GPT-4O. Foi dito que a fórmula se comportará como um “assistente útil que cria mensagens de marketing”.
O uso de IA generativa permitiu que os textos não fossem iguais entre si, como ocorre nas campanhas de spam. Embora semelhantes, eles tinham diversificação suficiente para evitar filtros automáticos.
De acordo com o SentineOne, o primeiro domínio conectado à organização também gravado em 2022. Os arquivos conectados à operação são datados em setembro de 2024. A pesquisa também revelou como a ferramenta evoluiu. Inicialmente, voltado para os sites do Shopify, o roteiro voltou temporariamente para as páginas alojadas em outras plataformas, como GoDaddy, Wix e Squarespace.
Além de converter o conteúdo das mensagens, a fórmula é capaz de burlar barreiras como Captchas e evitar a detecção por meio de mecanismos de segurança de rede.
As comunicações fraudulentas promoveram dois mecanismos de pesquisa chamados Akira e ServiceWrap. Aparentemente, eles eram fraudulentos ou de baixa qualidade.
No entanto, na plataforma Trustpilot, os dois acumularam avaliações de cinco histórias, muitas provavelmente criadas por meio de inteligência sintética, e algumas notas baixas, denunciando a natureza suspeita da negociação.
O Sentinelone aprendeu sobre uma regra: várias avaliações de contas em outras corporações e, alguns dias depois, deu a Akira ou Service uma classificação máxima. O hábito sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
Em reação a Sentineone, a OpenAi emitiu a seguinte posição:
“Agradecemos a SenineLone por compartilhar os efeitos de sua pesquisa. O uso de nossas respostas de serviço à medida que o spam se opõe às nossas políticas. A chave da API foi desativada; continuamos a investigar o caso e bloquear outras características semelhantes a esse grupo. Pegamos o uso indevido e consistentemente nossos sistemas para viajar por abuso”.
Com Sentineone e 404 Media
Receber mensagens de TB
Apenas o uso moral da IA.
Compartilhar