Os sistemas de IA que geram ou manipulam tais conteúdos devem agora garantir que os resultados sejam claramente marcados como artificiais.

Além disso, a Diretiva relativa ao combate à violência contra as mulheres obriga os Estados-Membros a criminalizar a produção e partilha de 'deepfakes' sexuais sem consentimento, quando tal comportamento for suscetível de causar danos graves à vítima.

Alguns países estão a ir mais longe.

A Itália, por exemplo, já criou um novo tipo de crime no seu Código Penal que pune a divulgação ilícita de qualquer conteúdo gerado por IA que cause 'um dano injusto a uma pessoa', com penas de prisão de um a cinco anos.

Em Portugal, espera-se a transposição da diretiva europeia, mas existe um apelo para que o país adote uma abordagem mais ampla, à semelhança da italiana.