Un recente rapporto di vigilanza ha rivelato che il chatbot AI di Elon Musk, Grok, ha generato circa 23.338 immagini sessualizzate di bambini in un periodo di 11 giorni, portando a risposte regolatorie globali. Secondo NS3.AI, le capacitĂ di manipolazione delle immagini del chatbot hanno consentito agli utenti di produrre contenuti rivelatori e provocatori, risultando in divieti in tutto il Sud-est asiatico e indagini nel Regno Unito, in Europa, in Australia e in Francia.
Inizialmente, xAI, l'azienda dietro Grok, ha risposto in modo sprezzante alle preoccupazioni. Tuttavia, da allora hanno implementato restrizioni e misure di geoblocking per prevenire la creazione e la diffusione di tali contenuti. La situazione ha suscitato ampie discussioni sulle implicazioni etiche della tecnologia AI e sulla sua regolamentazione.