Uma investigação da Reuters revelou que chatbots disponíveis em plataformas como o Facebook, Instagram e WhatsApp se faziam passar por celebridades, atendendo a pedidos dos utilizadores para gerar imagens íntimas e insistindo que eram pessoas reais.

Pelo menos três destes assistentes virtuais foram criados por um funcionário da divisão de IA da Meta como um “teste”, mas estavam disponíveis publicamente e acumularam mais de 10 milhões de interações. A investigação descobriu também que estes bots estavam a ter “conversas de teor sexual com menores”, levantando o receio de que pudessem abordar outros temas sensíveis como distúrbios alimentares ou automutilação.

Em resposta, um representante da Meta afirmou ao TechCrunch que os chatbots estão a ser treinados para evitar estes tópicos com adolescentes, mas admitiu que as medidas são temporárias enquanto a empresa desenvolve diretrizes permanentes.

Após a divulgação da investigação, a Meta apagou alguns dos bots mais problemáticos, dificultando o acesso dos utilizadores aos exemplos mais graves.