Os criminosos digitais usaram equipamentos da OpenAI para atrair diretores de páginas online para uma rede de otimização de mecanismos de pesquisa fraudulentos (otimização de mecanismos de pesquisa). A estratégia é criar mensagens personalizadas com inteligência geral sintética que pode contornar filtros e captchas.
A operação conhecida através da Sentineone CyberSecurity Company. Segundo os pesquisadores, uma ferramenta conhecida como Akirabot costumava verificar para distribuir um spam em cerca de 420. 000 sites da Internet, em 80. 000 deles, a tentativa bem -sucedida.
Os principais alvos eram as pequenas e médias empresas. As mensagens foram enviadas por meio de sistemas burocráticos táteis ou serviço de chat. As mensagens automatizadas apresentadas em pacotes de otimização de mecanismos de pesquisa por US $ 30 consistentes com o mês eram aparentemente falsas ou praticamente inúteis.
“Quando um novo meio de comunicação virtual ganha popularidade, agentes mal-intencionados inevitavelmente o examinam para espalhar spam, para tirar crédito de usuários desavisados”, alerta Sentinelone. O e-mail continua sendo o canal de pico não incomum para esse tipo de prática, no entanto, a popularização de novas plataformas expandiu o escopo desses ataques. “
Os funcionários do golpe usaram a API do OpenAI para gerar mensagens personalizadas, o Mini Model GPT-4O. Foi dito que a fórmula se comportará como um “assistente útil que cria mensagens de marketing”.
O uso de generativo permitiu que os textos não fossem iguais um ao outro, conforme produzido em campanhas de spam. Embora semelhantes, eles tinham variação suficiente para evitar filtros automáticos.
De acordo com o SentineOne, o primeiro domínio conectado à organização também gravado em 2022. Os arquivos conectados à operação são datados em setembro de 2024. A pesquisa também revelou como a ferramenta evoluiu. Inicialmente, voltado para os sites do Shopify, o roteiro voltou temporariamente para as páginas alojadas em outras plataformas, como GoDaddy, Wix e Squarespace.
Além de converter o conteúdo das mensagens, a fórmula é capaz de burlar barreiras como Captchas e evitar a detecção por meio de mecanismos de segurança de rede.
As comunicações fraudulentas promoveram dois mecanismos de otimização de pesquisa chamados Akira e ServiceWrap. Aparentemente, eles eram fraudulentos ou de baixa qualidade.
No entanto, na plataforma Tustpilot, os dois acumularam muitas críticas a cinco histórias, muitas criadas através da inteligência sintética e algumas notas baixas, denunciando a natureza suspeita da operação.
SentineLona conhece um padrão: várias contas têm revistas sobre outras empresas e, alguns dias depois, eles concederam uma nota máxima a Akira ou ServiceWrap. O hábito sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
Em reação a Sentineone, a OpenAi emitiu a seguinte posição:
“Agradecemos a SentineLone por compartilhar os efeitos de sua pesquisa. Usar nossas respostas de serviço como spam, se opõe às nossas políticas. A chave da API foi desativada; estamos passando a investigar o assunto e bloquearemos outras características semelhantes a esse grupo. Usamos o uso indevido e somos constantemente nossos sistemas para encontrar abuso”.
Com Sentineone e 404 Media
Receber mensagens de TB
Apenas o uso moral da IA.
Compartilhar