Os criminosos digitais usaram equipamentos da OpenAI para atrair diretores de páginas online para uma rede de otimização de mecanismos de pesquisa fraudulentos (otimização de mecanismos de pesquisa). A estratégia é criar mensagens personalizadas com inteligência geral sintética que pode contornar filtros e captchas.
A operação conhecida através da segurança cibernética corporativa Sentineone. Agradecendo aos pesquisadores, uma ferramenta conhecida como Akirabot usada para verificar para distribuir SPAM para cerca de 420. 000 sites da Internet, em 80. 000 deles, a tentativa bem -sucedida.
Os principais alvos eram as pequenas e médias empresas. As mensagens foram enviadas por meio de sistemas burocráticos táteis ou serviço de chat. As mensagens automatizadas apresentadas em pacotes de otimização de mecanismos de pesquisa por US $ 30 consistentes com o mês eram aparentemente falsas ou praticamente inúteis.
“Quando um novo meio de comunicação virtual ganha popularidade, agentes mal-intencionados inevitavelmente o examinam para espalhar spam, para tirar crédito de usuários desavisados”, alerta Sentinelone. O e-mail continua sendo o canal de pico não incomum para esse tipo de prática, no entanto, a popularização de novas plataformas expandiu o escopo desses ataques. “
Os funcionários do soco usaram a API da OpenAI para gerar mensagens personalizadas, o Mini Modelo GPT-4O. Já foi dito que a fórmula se comportará como um “assistente útil que cria mensagens de marketing”.
O uso de IA generativa permitiu que os textos não fossem iguais entre si, como é o caso das campanhas de spam. Embora semelhantes, eles tinham variação suficiente para evitar filtros automáticos.
De acordo com Sentineone, o primeiro domínio ligado à organização também foi registrado em 2022. Arquivos semelhantes à operação são datados de setembro de 2024. A pesquisa também revelou como a ferramenta evoluiu.
Além de converter o conteúdo das mensagens, a fórmula é capaz de burlar barreiras como Captchas e evitar a detecção por meio de mecanismos de segurança de rede.
As comunicações fraudulentas promoveram dois mecanismos de otimização de pesquisa chamados Akira e ServiceWrap. Aparentemente, eles eram fraudulentos ou de baixa qualidade.
No entanto, na plataforma Tustpilot, os dois acumularam revisões de cinco histórias, provavelmente criadas através da inteligência sintética e algumas notas baixas, denunciando a natureza suspeita da operação.
O Sentinelone aprendeu sobre uma regra: várias avaliações de contas em outras corporações e, alguns dias depois, deu a Akira ou Service uma classificação máxima. O hábito sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
Em reação a Sentineone, a OpenAi emitiu a seguinte posição:
“Agradecemos ao Sentinelone por compartilhar os efeitos de sua pesquisa. Usar nossas respostas de serviço como spam é contrário às nossas políticas. A chave de API foi desativada; Estamos investigando o assunto e bloquearemos outros recursos semelhantes a este grupo. Levamos o uso indevido a sério e estamos constantemente em nossos sistemas para tropeçar em abusos. “
Com Sentineone e 404 Media
Receber mensagens de TB
Apenas o uso moral da IA.
Compartilhar