Os criminosos digitais usaram equipamentos OpenAI para atrair diretores para uma rede de referência fraudulenta (Seek engine optimization). A estratégia é composta pela criação de mensagens personalizadas com inteligência sintética geral capaz de omitir filtros e capthas.
A operação conhecida através da Sentineone corporativa da cibernética de segurança. Agradecendo aos pesquisadores, uma ferramenta conhecida como Akirabot contratada para verificar para distribuir SPAM para cerca de 420. 000 sites da Internet, em 80. 000 deles, a tentativa bem -sucedida.
Os principais alvos eram as pequenas e médias empresas. As mensagens foram enviadas por meio de sistemas burocráticos táteis ou serviço de chat. As mensagens automatizadas apresentadas em pacotes de otimização de mecanismos de pesquisa por US $ 30 consistentes com o mês eram aparentemente falsas ou praticamente inúteis.
“Quando uma nova mídia virtual de comunicação ganha popularidade, agentes maliciosos exploram inevitavelmente para disseminar spam, para tomar o mérito de usuários desavisados”, diz Sentinelone. “
Os casais golpistas usaram a API da OpenAI para gerar mensagens personalizadas no modelo GPT-4O. A fórmula era culpada de se comportar como um “assistente útil que cria mensagens de marketing”.
O uso de IA generativa permitiu que os textos não fossem iguais entre si, como é o caso das campanhas de spam. Embora semelhantes, eles tinham variação suficiente para evitar filtros automáticos.
De acordo com Sentineone, o primeiro domínio ligado à organização também foi registrado em 2022. Arquivos semelhantes à operação são datados de setembro de 2024. A pesquisa também revelou como a ferramenta evoluiu.
Além de converter o conteúdo das mensagens, a fórmula é capaz de burlar barreiras como Captchas e evitar a detecção por meio de mecanismos de segurança de rede.
As comunicações fraudulentas promoveram dois mecanismos de otimização de pesquisa chamados Akira e ServiceWrap. Aparentemente, eles eram fraudulentos ou de baixa qualidade.
No entanto, na plataforma Tustpilot, os dois acumularam muitas críticas a cinco histórias, muitas criadas através da inteligência sintética e algumas notas baixas, denunciando a natureza suspeita da operação.
O Sentinelone aprendeu sobre uma regra: várias avaliações de contas em outras corporações e, alguns dias depois, deu a Akira ou Service uma classificação máxima. O hábito sugere um esforço coordenado para inflar artificialmente a reputação dessas marcas.
Em reação a Sentineone, a OpenAi emitiu a seguinte posição:
“Agradecemos a SentineLone por compartilhar os efeitos de sua pesquisa. Usar nossas respostas de serviço como spam, se opõe às nossas políticas. A chave da API foi desativada; estamos passando a investigar o assunto e bloquearemos outras características semelhantes a esse grupo. Usamos o uso indevido e somos constantemente nossos sistemas para encontrar abuso”.
Com informações de mídia Sentineone e 404
Receber mensagens de TB
Apenas o uso moral da IA.
Compartilhar