Os criminosos digitais usaram equipamentos OpenAI para atrair diretores de páginas on -line para uma rede fraudulenta de otimização de mecanismos de pesquisa (otimização dos mecanismos de pesquisa). A estratégia é criar mensagens personalizadas com inteligência geral sintética que podem evitar filtros e captchas.
A operação conhecida através da cibersegurança corporativa Sentineone. Agradecendo aos pesquisadores, uma ferramenta conhecida como Akirabot usada para verificar a distribuição de SPAM para cerca de 420. 000 sites da Internet, em 80. 000 deles, a tentativa bem-sucedida.
Os principais alvos eram as pequenas e médias empresas. As mensagens foram enviadas por meio de sistemas burocráticos táteis ou serviço de chat. As mensagens automatizadas apresentadas em pacotes de otimização de mecanismos de pesquisa por US $ 30 consistentes com o mês eram aparentemente falsas ou praticamente inúteis.
“Quando uma nova mídia virtual de comunicação ganha popularidade, agentes maliciosos exploram inevitavelmente para disseminar spam, para tomar o mérito de usuários desavisados”, diz Sentinelone. “
Os funcionários da CoUT usaram a API da OpenAI para gerar mensagens personalizadas no GPT-4O Mini Model. Já foi dito que a fórmula se comportará como um “assistente útil que cria mensagens de marketing”.
O uso de IA generativa permitiu que os textos não fossem iguais uns aos outros, assim como nas campanhas de spam. Embora semelhantes, eles tinham diversificação suficiente para evitar filtros automáticos.
De acordo com Sentineone, o primeiro domínio ligado à organização também foi registrado em 2022. Arquivos semelhantes à operação são datados de setembro de 2024. A pesquisa também revelou como a ferramenta evoluiu.
Além de converter o conteúdo das mensagens, a fórmula é capaz de burlar barreiras como Captchas e evitar a detecção por meio de mecanismos de segurança de rede.
As comunicações fraudulentas promoveram duas otimizações de mecanismos de pesquisa designadas para Akira e ServiceWrap. Aparentemente, ambos eram fraudulentos ou de má qualidade.
No entanto, na plataforma Trustpilot, os dois acumularam avaliações de cinco histórias, muitas provavelmente criadas por meio de inteligência sintética, e algumas notas baixas, denunciando a natureza suspeita da negociação.
O Sentinelone aprendeu sobre uma regra: várias avaliações de contas em outras corporações e, alguns dias depois, deu a Akira ou Service uma classificação máxima. O hábito sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
Em reação a SentineOne, o OpenAI emitiu a seguinte posição:
“Agradecemos ao Sentinelone por compartilhar os efeitos de sua pesquisa. Usar nossas respostas de serviço como spam é contrário às nossas políticas. A chave de API foi desativada; Estamos investigando o assunto e bloquearemos outros recursos semelhantes a este grupo. Levamos o uso indevido a sério e estamos constantemente em nossos sistemas para tropeçar em abusos. “
Com Sentineone e 404 Media
Receber mensagens de TB
Apenas o uso moral da IA.
Compartilhar