Esta técnica, denominada “Grokking”, explora a confiança dos utilizadores em 'chatbots' para contornar as defesas das plataformas. Identificada pela empresa de cibersegurança ESET, esta nova modalidade de ataque, também designada “AI-aided malvertising”, explora o sistema publicitário da plataforma X para contornar as restrições a anúncios fraudulentos. Os cibercriminosos publicam vídeos com conteúdo 'clickbait' e inserem um 'link' malicioso no campo de origem da publicação, em vez do nome de um meio de comunicação.

Subsequentemente, solicitam ao 'chatbot' Grok que identifique a origem do vídeo.

Ao analisar o conteúdo, o modelo de IA deteta e repete automaticamente o 'link', amplificando o seu alcance e conferindo-lhe uma aparência de legitimidade. Esta técnica enquadra-se na categoria de ataques por “injeção de instruções” ('prompt injection'), onde comandos ocultos são inseridos no conteúdo processado pela IA para a levar a executar ações não previstas. Os criminosos aproveitam a reputação do Grok como fonte de informação fidedigna, potenciando milhões de visualizações e uma maior visibilidade nos motores de busca.

A ESET alerta que o impacto desta ameaça não se limita à plataforma X, podendo afetar qualquer serviço que integre modelos de linguagem generativa ou assistentes baseados em IA. A crescente sofisticação destes ataques é uma tendência confirmada por um relatório da Gartner, que indica que 32% das organizações sofreram pelo menos uma tentativa de ataque deste tipo no último ano, sublinhando a urgência de desenvolver novas defesas contra a manipulação de sistemas de inteligência artificial.