Indonésia e Malásia bloqueiam a IA Grok de Elon Musk devido a conteúdo sexual não consensual

A ferramenta de inteligência artificial Grok, de Elon Musk, enfrenta uma crescente reação global devido à sua capacidade de gerar imagens sexualizadas não consensuais, levando a Indonésia e a Malásia a bloquearem o seu acesso. A União Europeia também ameaça intervir, aumentando a pressão sobre a plataforma X.

A Indonésia e a Malásia tornaram-se nos primeiros países a bloquear o acesso ao Grok, o assistente de Inteligência Artificial (IA) da empresa xAI de Elon Musk, integrado na rede social X.

A decisão foi tomada em resposta à geração de imagens de conteúdo sexual não consensual, incluindo "deepfakes" que representam mulheres, por vezes em biquíni ou poses explícitas, e também crianças. Os reguladores de ambos os países do sudeste asiático apontaram a ausência de mecanismos de controlo eficazes para impedir a produção e disseminação deste tipo de conteúdo pornográfico falso.

O governo indonésio, que bloqueou temporariamente o serviço no sábado, considera os "deepfakes" sexuais não consensuais "uma grave violação dos Direitos Humanos, da dignidade e da segurança dos cidadãos no espaço digital", conforme afirmou a ministra das Comunicações, Meutya Hafid.

Alexander Sabar, diretor-geral de supervisão do espaço digital, acrescentou que a ferramenta viola a privacidade e os direitos de imagem, podendo causar danos psicológicos e de reputação.

No domingo, a Malásia seguiu o exemplo, justificando a restrição com o "uso indevido repetido" do Grok para gerar imagens obscenas e manipuladas sem consentimento, declarando que o bloqueio se manterá até que existam salvaguardas eficazes.

A controvérsia estendeu-se à Europa, onde a presidente da Comissão Europeia, Ursula von der Leyen, emitiu um aviso direto a Elon Musk: "Se não agirem, agiremos nós". Chocada com o facto de a plataforma permitir "dispir digitalmente mulheres e crianças", von der Leyen sublinhou que a União Europeia não irá "externalizar a proteção das crianças" para as gigantes tecnológicas.

A Comissão já está a investigar o caso ao abrigo da Lei dos Serviços Digitais, que obriga as plataformas a remover conteúdos ilegais e pode resultar em coimas avultadas.

Lançado em 2023, o Grok é de uso gratuito na plataforma X e inclui um gerador de imagens, o Grok Imagine, com um "modo picante" capaz de criar conteúdo para adultos.

Após a polémica global, a rede social X limitou a geração e edição de imagens aos utilizadores pagantes, uma medida que muitos especialistas consideram insuficiente para resolver o problema.