Tổng chưởng lý Florida yêu cầu bồi thường thiệt hại và truy cứu trách nhiệm cá nhân của CEO Sam Altman, cáo buộc ChatGPT che giấu rủi ro an toàn với người dùng.

Bang Florida hôm thứ Hai trở thành bang đầu tiên tại Mỹ khởi kiện OpenAI, khi Tổng chưởng lý James Uthmeier nộp đơn kiện dân sự cáo buộc công ty đã gây hiểu lầm cho người tiêu dùng về độ an toàn của ChatGPT và khiến trẻ em đối mặt với nguy cơ tổn hại nghiêm trọng. 

Đơn kiện nhắm đích danh cả CEO Sam Altman, yêu cầu bồi thường thiệt hại, biện pháp khắc phục bằng lệnh tòa và truy cứu trách nhiệm cá nhân, động thái quyết liệt nhất từ trước đến nay của một cơ quan nhà nước nhằm vào một công ty AI lớn.

Chuỗi vụ việc hình sự làm nền tảng cho cáo buộc

Vụ kiện được nộp tại tòa án bang Florida, cáo buộc OpenAI trình bày sai lệch rằng ChatGPT an toàn trong khi thực tế khiến người dùng đối mặt với các rủi ro bao gồm tự gây hại, bạo lực, nghiện sử dụng, suy giảm nhận thức và thông tin sai lệch. “Sam Altman và ChatGPT đã lựa chọn cuộc đua AI thay vì sự an toàn của trẻ em,” Uthmeier phát biểu tại họp báo. “Họ đã lựa chọn lợi nhuận thay vì an toàn công cộng.”

Các điều tra viên đưa ra một loạt vụ việc cụ thể để củng cố cáo buộc. Tay súng tại Đại học Bang Florida được cho là đã tham vấn ChatGPT về súng, đạn dược và các địa điểm trong khuôn viên trường trước vụ tấn công. Một vụ bắt cóc và giết người tại Đại học South Florida ghi nhận nghi phạm hỏi chatbot cách phi tang thi thể. Ngoài ra còn có các vụ việc liên quan đến tự gây hại, nỗ lực tự tử và nội dung khiêu dâm trẻ em.

Florida không đơn độc trong hướng đi này. Tháng trước, gia đình một sinh viên 19 tuổi tử vong do dùng thuốc quá liều đã kiện OpenAI tại California, cáo buộc ChatGPT khuyến khích hành vi sử dụng ma túy nguy hiểm. 

Tháng 5 vừa qua, OpenAI thông báo cập nhật ChatGPT để phát hiện tốt hơn các dấu hiệu tự tử và nguy cơ bạo lực bằng cách phân tích toàn bộ cuộc trò chuyện thay vì từng tin nhắn riêng lẻ, bản cập nhật được đưa ra sau một vụ kiện liên quan đến vụ xả súng hàng loạt tháng 2 tại British Columbia.

Đơn kiện cũng nhắm vào quỹ đạo tăng trưởng của OpenAI, từ tổ chức phi lợi nhuận thành lập năm 2015 đến công ty được định giá hơn 850 tỷ USD sau vòng huy động 122 tỷ USD gần nhất, với kế hoạch niêm yết đại chúng vào cuối năm nay. “Sự trỗi dậy của OpenAI bắt nguồn từ một mạng lưới lừa dối và việc khai thác người dùng, tận dụng dữ liệu và sự an toàn của họ để nâng giá trị thị trường,” đơn kiện nêu thẳng.