X limita a ferramenta de IA Grok após polémica sobre a criação de imagens sexualizadas

A ferramenta de Inteligência Artificial Grok, da xAI de Elon Musk, viu as suas funcionalidades de edição de imagem limitadas após uma onda de críticas e denúncias sobre a sua utilização para criar imagens sexualizadas de mulheres e menores sem consentimento.

A rede social X, de Elon Musk, restringiu a utilização da sua ferramenta de Inteligência Artificial (IA), o Grok, após esta ter sido usada para gerar imagens sexualizadas de mulheres e crianças. A funcionalidade, que permitia aos utilizadores editar fotografias com base em descrições de texto, estava a ser utilizada para criar imagens de pessoas nuas sem o seu consentimento, o que gerou uma forte onda de reclamações e a condenação de vários governos. Em resposta à polémica, a empresa tornou a geração e edição de imagens uma funcionalidade exclusiva para assinantes pagos.

Esta alteração implica que o nome e os dados de pagamento do utilizador fiquem associados a qualquer imagem modificada. Elon Musk advertiu na plataforma X que "qualquer pessoa que utilize o Grok para criar conteúdo ilegal sofrerá as consequências", e a equipa de segurança da rede social reforçou que irá remover imagens ilegais, suspender contas e colaborar com as autoridades.

No entanto, a medida foi recebida com ceticismo e críticas por parte de entidades governamentais europeias.

A Comissão Europeia considerou a alteração insuficiente, com o porta-voz da política digital, Thomas Regnier, a afirmar que o problema fundamental não é resolvido ao limitar a função a utilizadores pagantes, uma vez que o objetivo é a não existência de tais imagens. O executivo europeu classificou a criação deste tipo de conteúdo como "ilegal, horrível e repugnante" e ordenou ao X que preserve toda a documentação interna sobre o Grok até ao final de 2026, mantendo uma investigação aberta sobre os algoritmos da plataforma.

O Reino Unido também reagiu de forma veemente.

O primeiro-ministro, Keir Starmer, descreveu a situação como "nojenta" e afirmou que "todas as opções estão em cima da mesa", incluindo a possibilidade de banir a ferramenta no país.

Um porta-voz do governo britânico acrescentou que a decisão do X "simplesmente transforma uma funcionalidade que permite a criação de imagens ilegais num serviço 'premium'" e constitui "um insulto às vítimas de misoginia e violência sexual".