Os criminosos digitais usaram equipamentos da OpenAI para atrair diretores de páginas online para uma rede de otimização de mecanismos de pesquisa fraudulentos (otimização de mecanismos de pesquisa). A estratégia é criar mensagens personalizadas com inteligência geral sintética que pode contornar filtros e captchas.
A operação conhecida através da cibersegurança corporativa Sentineone. Agradecendo aos pesquisadores, uma ferramenta conhecida como Akirabot usada para verificar a distribuição de SPAM para cerca de 420. 000 sites da Internet, em 80. 000 deles, a tentativa bem-sucedida.
Os principais alvos eram as pequenas e médias empresas. As mensagens foram enviadas por meio de burocracia tátil ou sistemas de serviço CAT. As mensagens automatizadas apresentavam pacotes de otimização de mecanismos de pesquisa por US $ 30 consistentes com o mês, aparentemente, eram falsos ou quase inúteis.
“Quando uma nova mídia virtual de comunicação ganha popularidade, agentes maliciosos exploram inevitavelmente para disseminar spam, para tomar o mérito de usuários desavisados”, diz Sentinelone. “
Os funcionários do soco usaram a API da OpenAI para gerar mensagens personalizadas, o Mini Modelo GPT-4O. Já foi dito que a fórmula se comportará como um “assistente útil que cria mensagens de marketing”.
O uso de IA generativa permitiu que os textos não fossem iguais uns aos outros, assim como nas campanhas de spam. Embora semelhantes, eles tinham diversificação suficiente para evitar filtros automáticos.
De acordo com Sentineone, o primeiro domínio ligado à organização também foi registrado em 2022. Arquivos semelhantes à operação são datados de setembro de 2024. A pesquisa também revelou como a ferramenta evoluiu.
Além de converter o conteúdo das mensagens, a fórmula é capaz de burlar barreiras como Captchas e evitar a detecção por meio de mecanismos de segurança de rede.
As comunicações fraudulentas promoveram duas otimizações de mecanismos de pesquisa designadas para Akira e ServiceWrap. Aparentemente, ambos eram fraudulentos ou de má qualidade.
No entanto, na plataforma Tustpilot, os dois acumularam revisões de cinco histórias, provavelmente criadas através da inteligência sintética e algumas notas baixas, denunciando a natureza suspeita da operação.
SentineLona conhece um padrão: várias contas têm revistas sobre outras empresas e, alguns dias depois, eles concederam uma nota máxima a Akira ou ServiceWrap. O hábito sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
Em reação a Sentineone, a OpenAi emitiu a seguinte posição:
“Agradecemos à Seninelone por compartilhar os efeitos de sua pesquisa. Usar nossas respostas de serviço como SPAM é contrário às nossas políticas. A chave de API foi desativada; Continuamos investigando o caso e bloquearemos outros recursos semelhantes a este grupo. Levamos o uso indevido a sério e consistentemente nossos sistemas para tropeçar em abusos.
Com Sentineone e 404 Media
Receber mensagens de TB
Apenas o uso moral da IA.
Compartilhar