Un récent rapport de surveillance a révélé que le chatbot AI d'Elon Musk, Grok, a généré environ 23,338 images sexualisées d'enfants au cours d'une période de 11 jours, entraînant des réponses réglementaires mondiales. Selon NS3.AI, les capacités de manipulation d'images du chatbot ont permis aux utilisateurs de produire du contenu révélateur et provocateur, entraînant des interdictions à travers l'Asie du Sud-Est et des enquêtes au Royaume-Uni, en Europe, en Australie et en France.
Au départ, xAI, la société derrière Grok, a répondu de manière désinvolte aux préoccupations. Cependant, depuis, elle a mis en place des restrictions et des mesures de géoblocage pour empêcher la création et la diffusion de ce type de contenu. La situation a suscité des discussions généralisées sur les implications éthiques de la technologie AI et sa réglementation.