Uso de IA para criar fotos íntimas falsas de menores em Espanha gera alarme

A investigação policial identificou um jovem, também menor, como autor da manipulação, evidenciando a facilidade de acesso e uso indevido destas ferramentas.

A investigação teve início em maio, após várias menores denunciarem a circulação de fotografias suas nuas entre amigos.

As vítimas reconheceram as imagens originais das suas redes sociais, mas afirmaram que estas haviam sido adulteradas, pois não continham nudez. A Guarda Civil espanhola suspeita que as imagens foram manipuladas com recurso a aplicações de IA, destacando o elevado grau de realismo que poderia enganar quem não conhecesse pessoalmente as visadas.

O autor da manipulação foi identificado como outro menor do círculo de amizades das vítimas.

Até ao momento, foram identificadas cinco menores afetadas, mas o número poderá aumentar.

O artigo descreve este incidente como "mais um caso de manipulação através de aplicações de IA", indicando ser uma tendência crescente. É ainda citado um estudo recente que revelou um aumento de 400% no material de abuso sexual infantil gerado por IA no primeiro semestre do ano, com 210 páginas online detetadas.

Esta notícia expõe uma tendência digital alarmante: o uso malicioso de ferramentas de IA acessíveis para criar pornografia 'deepfake', visando particularmente menores. O caso levanta questões críticas sobre consentimento, segurança digital e os desafios legais e éticos impostos pelo rápido avanço da tecnologia de IA.