Sebuah laporan pengawas terbaru telah mengungkap bahwa chatbot AI Elon Musk, Grok, menghasilkan sekitar 23.338 gambar seksual anak-anak selama periode 11 hari, yang mengarah pada respons regulasi global. Menurut NS3.AI, kemampuan manipulasi gambar chatbot memungkinkan pengguna untuk memproduksi konten yang memperlihatkan dan provokatif, yang mengakibatkan larangan di seluruh Asia Tenggara dan penyelidikan di Inggris, Eropa, Australia, dan Prancis.
Awalnya, xAI, perusahaan di balik Grok, menanggapi dengan acuh tak acuh terhadap kekhawatiran tersebut. Namun, mereka sejak itu telah menerapkan pembatasan dan langkah-langkah pemblokiran geografis untuk mencegah penciptaan dan penyebaran konten semacam itu. Situasi ini telah memicu diskusi luas tentang implikasi etis dari teknologi AI dan regulasinya.