Một báo cáo giám sát gần đây đã phát hiện rằng chatbot AI của Elon Musk, Grok, đã tạo ra khoảng 23,338 hình ảnh tình dục hóa trẻ em trong một khoảng thời gian 11 ngày, dẫn đến các phản ứng quản lý toàn cầu. Theo NS3.AI, khả năng xử lý hình ảnh của chatbot đã cho phép người dùng tạo ra nội dung khiêu gợi và phản cảm, dẫn đến lệnh cấm trên khắp Đông Nam Á và các cuộc điều tra ở Vương quốc Anh, châu Âu, Úc và Pháp.
Ban đầu, xAI, công ty đứng sau Grok, đã phản ứng một cách coi thường trước những mối quan ngại. Tuy nhiên, họ đã thực hiện các biện pháp hạn chế và chặn địa lý để ngăn chặn việc tạo ra và phát tán nội dung như vậy. Tình hình này đã dấy lên những cuộc thảo luận rộng rãi về các hệ quả đạo đức của công nghệ AI và việc quản lý nó.