Posteriormente, solicitam ao Grok que identifique a origem do vídeo.

Ao analisar o conteúdo, o modelo de IA deteta o 'link' e repete-o automaticamente na sua resposta, ampliando o alcance da fraude.

Esta forma de ataque, conhecida como “injeção de instruções”, explora a confiança dos utilizadores no Grok como fonte de informação, que pode atingir milhões de visualizações. A ESET esclarece que o impacto desta vulnerabilidade não se limita à rede social X, podendo afetar qualquer plataforma que integre modelos de linguagem ou assistentes baseados em IA. O incidente demonstra como os sistemas de IA podem ser explorados para realizar ações que estão, à partida, bloqueadas, representando um novo vetor de ataque que combina engenharia social com a manipulação de tecnologia emergente. Centenas de contas que reproduziam este padrão já foram suspensas.