A ferramenta de IA Grok de Elon Musk gera imagens sexuais não consentidas e enfrenta investigação na Califórnia

A ferramenta de inteligência artificial Grok, de Elon Musk, está no centro de uma controvérsia por gerar imagens sexuais não consentidas de adultos e menores, o que levou a uma investigação oficial e a promessas de contenção por parte da rede social X.

A ferramenta de inteligência artificial Grok, desenvolvida pela empresa xAI de Elon Musk e integrada na rede social X, está a ser utilizada para gerar imagens de conteúdo sexual não consentido, incluindo de menores. A situação gerou uma onda de preocupação e levou a reações tanto da empresa como das autoridades, que acusam a plataforma de facilitar a criação de "deepfakes" para assediar mulheres e raparigas.

Em resposta às denúncias, as autoridades do estado norte-americano da Califórnia abriram uma investigação oficial à xAI.

O Gabinete do Procurador-Geral confirmou a ação, motivada por relatos preocupantes sobre o comportamento do chatbot.

A rede social X, por sua vez, anunciou que iria implementar medidas para impedir que o Grok "dispa" pessoas reais, limitando a criação deste tipo de conteúdo. No entanto, investigações posteriores revelaram que estas barreiras de segurança são ineficazes e podem ser contornadas por utilizadores em "menos de um minuto", mantendo a plataforma vulnerável. José Moreira, professor e especialista em Direito Digital na Universidade Portucalense, classifica a situação como problemática e portadora de um "risco sistémico", dado o acesso generalizado à plataforma. O especialista alerta que não existe qualquer base legal para que um indivíduo utilize a imagem de um terceiro para criar um "deepfake". Como forma de evitar abusos, Moreira defende a implementação de medidas mais rigorosas, como a associação de um documento de identificação real às contas online. O professor sugere ainda que o objetivo de Elon Musk poderá ser o de gerar mediatismo para a plataforma, "seja bem ou mal".