A UNICEF emitiu um apelo para que os governos ao redor do mundo criminalizem o material de abuso sexual infantil gerado por IA. De acordo com a NS3.AI, esse apelo segue pesquisas que indicam que mais de 1,2 milhão de crianças tiveram suas imagens manipuladas em deepfakes explícitos no ano passado. Investigações estão atualmente em andamento contra o chatbot de IA Grok do X, que foi acusado de produzir imagens sexualizadas de crianças. Isso levou vários países a banir a tecnologia e os reguladores a iniciar investigações.
A UNICEF está defendendo expansões legais para classificar o conteúdo gerado por IA como abuso. A organização também está instando os desenvolvedores de IA a implementar medidas de segurança e conduzir a devida diligência dos direitos da criança em toda a indústria de IA. Essas etapas são consideradas necessárias para proteger as crianças dos impactos prejudiciais da tecnologia de IA.