Os criminosos digitais usaram equipamentos da OpenAI para atrair diretores de páginas online para uma rede de otimização de mecanismos de pesquisa fraudulentos (otimização de mecanismos de pesquisa). A estratégia é criar mensagens personalizadas com inteligência geral sintética que pode contornar filtros e captchas.
A operação conhecida através da cibersegurança corporativa Sentineone. Agradecendo aos pesquisadores, uma ferramenta conhecida como Akirabot usada para verificar a distribuição de SPAM para cerca de 420. 000 sites da Internet, em 80. 000 deles, a tentativa bem-sucedida.
Os principais alvos eram as pequenas e médias empresas. As mensagens foram enviadas por meio de sistemas burocráticos táteis ou serviço de chat. As mensagens automatizadas apresentadas em pacotes de otimização de mecanismos de pesquisa por US $ 30 consistentes com o mês eram aparentemente falsas ou praticamente inúteis.
“Quando um novo meio de comunicação virtual ganha popularidade, agentes mal-intencionados inevitavelmente o examinam para espalhar spam, para tirar crédito de usuários desavisados”, alerta Sentinelone. O e-mail continua sendo o canal de pico não incomum para esse tipo de prática, no entanto, a popularização de novas plataformas expandiu o escopo desses ataques. “
Os funcionários do soco usaram a API da OpenAI para gerar mensagens personalizadas, o Mini Modelo GPT-4O. Já foi dito que a fórmula se comportará como um “assistente útil que cria mensagens de marketing”.
O uso de IA generativa permitiu que os textos não fossem iguais entre si, como é o caso das campanhas de spam. Embora semelhantes, eles tinham variação suficiente para evitar filtros automáticos.
Ainda de acordo com Sentineone, o primeiro domínio conectado à organização registrado em 2022. Arquivos semelhantes à operação são datados de setembro de 2024. A pesquisa também revelou como a ferramenta evoluiu.
Além de converter o conteúdo das mensagens, a fórmula é capaz de burlar barreiras como Captchas e evitar a detecção por meio de mecanismos de segurança de rede.
As comunicações fraudulentas promoveram dois mecanismos de otimização de pesquisa chamados Akira e ServiceWrap. Aparentemente, eles eram fraudulentos ou de baixa qualidade.
No entanto, na plataforma Trustpilot, os dois acumularam avaliações de cinco histórias, muitas provavelmente criadas por meio de inteligência sintética, e algumas notas baixas, denunciando a natureza suspeita da negociação.
Sentinelona conhece um padrão: várias contas têm revistas sobre outras corporações e, alguns dias depois, deram a Akira ou ServiceWrap uma pontuação máxima. O hábito sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
Em reação a Sentineone, a OpenAi emitiu a seguinte posição:
“Agradecemos a Sentinélone por compartilhar os efeitos de sua pesquisa. Usar nossas respostas de serviço como spam é contrário às nossas políticas. A chave de API foi desativada; Estamos investigando o assunto e bloquearemos outros recursos semelhantes a este grupo. Levamos o uso indevido a sério e estamos constantemente em nossos sistemas para tropeçar em abusos. “
Com informações de mídia Sentineone e 404
Receber mensagens de TB
Apenas o uso moral da IA.
Compartilhar