Os criminosos digitais usaram equipamentos OpenAI para atrair diretores de páginas on -line para uma rede fraudulenta de otimização de mecanismos de pesquisa (otimização dos mecanismos de pesquisa). A estratégia é criar mensagens personalizadas com inteligência geral sintética que podem evitar filtros e captchas.
A operação conhecida através da Sentineone CyberSecurity Company. Segundo os pesquisadores, uma ferramenta conhecida como Akirabot costumava verificar para distribuir um spam em cerca de 420. 000 sites da Internet, em 80. 000 deles, a tentativa bem -sucedida.
Os principais alvos eram as pequenas e médias empresas. As mensagens foram enviadas por meio de sistemas burocráticos táteis ou serviço de chat. As mensagens automatizadas apresentadas em pacotes de otimização de mecanismos de pesquisa por US $ 30 consistentes com o mês eram aparentemente falsas ou praticamente inúteis.
“Quando um novo meio de comunicação virtual está ganhando popularidade, agentes mal-intencionados inevitavelmente o exploram para espalhar spam, para tirar crédito dos usuários sem desconfiança”, alerta Sentinelone. “O e-mail por e-mail continua sendo o canal máximo não incomum para esse tipo de prática, no entanto, a popularização de novas plataformas expandiu a caixa para esses ataques. “
Os funcionários do soco usaram a API da OpenAI para gerar mensagens personalizadas, o Mini Modelo GPT-4O. Já foi dito que a fórmula se comportará como um “assistente útil que cria mensagens de marketing”.
O uso de IA generativa permitiu que os textos não fossem iguais uns aos outros, assim como nas campanhas de spam. Embora semelhantes, eles tinham diversificação suficiente para evitar filtros automáticos.
De acordo com Sentineone, o primeiro domínio conectado à organização também foi registrado em 2022. Os arquivos relacionados à operação são datados de setembro de 2024. A pesquisa também revelou como a ferramenta evoluiu. Inicialmente voltado para sites do Shopify, o script segmentou temporariamente páginas hospedadas em outras plataformas como Godaddy, Wix e Squarespace.
Além de modificar o conteúdo das mensagens, a fórmula pode escapar de barreiras como Captchas e evitar a detecção por meio de mecanismos de proteção de rede.
As comunicações fraudulentas promoveram dois mecanismos de otimização de pesquisa chamados Akira e ServiceWrap. Aparentemente, eles eram fraudulentos ou de baixa qualidade.
No entanto, na plataforma Tustpilot, os dois acumularam muitas críticas a cinco histórias, muitas criadas através da inteligência sintética e algumas notas baixas, denunciando a natureza suspeita da operação.
O Sentinelone aprendeu sobre uma regra: várias avaliações de contas em outras corporações e, alguns dias depois, deu a Akira ou Service uma classificação máxima. O hábito sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
Em reação a Sentineone, a OpenAi emitiu a seguinte posição:
“Agradecemos à Seninelone por compartilhar os efeitos de sua pesquisa. Usar nossas respostas de serviço como SPAM é contrário às nossas políticas. A chave de API foi desativada; Continuamos investigando o caso e bloquearemos outros recursos semelhantes a este grupo. Levamos o uso indevido a sério e consistentemente nossos sistemas para tropeçar em abusos.
Com informações de mídia Sentineone e 404
Receber mensagens de TB
Apenas o uso moral da IA.
Compartilhar