UNICEF hat einen Aufruf an Regierungen weltweit gestartet, KI-generiertes Material für sexuellen Missbrauch von Kindern zu kriminalisieren. Laut NS3.AI folgt dieser Appell auf Forschungsergebnisse, die zeigen, dass über 1,2 Millionen Kinderbilder im vergangenen Jahr in explizite Deepfakes manipuliert wurden. Derzeit laufen Ermittlungen gegen X's KI-Chatbot Grok, der beschuldigt wird, sexualisierte Bilder von Kindern produziert zu haben. Dies hat mehrere Länder dazu veranlasst, die Technologie zu verbieten, und Regulierungsbehörden dazu, Untersuchungen einzuleiten.
UNICEF setzt sich für rechtliche Erweiterungen ein, um KI-generierte Inhalte als Missbrauch zu klassifizieren. Die Organisation fordert auch KI-Entwickler auf, Sicherheitsmaßnahmen zu implementieren und die Kinderrechte in der KI-Industrie zu berücksichtigen. Diese Schritte sind notwendig, um Kinder vor den schädlichen Auswirkungen der KI-Technologie zu schützen.