Alice Carrier gần đây đã bắt đầu chơi guitar trở lại, một sở thích mà cô rất thích hồi trung học nhưng đã gác lại trong thời gian đại học. Đây là một trong nhiều hoạt động mà cô lấp đầy thời gian rảnh của mình khi phỏng vấn cho các công việc mới, dành thời gian với chú chó của mình và tận hưởng các hoạt động, bao gồm cả chơi game.
Dựa theo những gì thấy được, ít nhất là với mẹ của cô ấy, Kristie Carrier, mọi thứ có vẻ đang diễn ra tốt đẹp. Alice đang làm một lập trình viên web ở Montreal, Canada, thực hiện một giấc mơ mà cô đã mang theo từ hồi lớn lên ở thị trấn nhỏ Lawrence, New Brunswick.
“Mọi thứ đã diễn ra theo chiều hướng tốt, và dường như mọi thứ đang tốt hơn cho cô ấy,” Carrier nói với Al Jazeera.
Nhưng điều Carrier không biết là con gái mình đã vật lộn như thế nào trong im lặng. Năm 2023, cô bắt đầu sử dụng ChatGPT để giúp xác định vấn đề với máy tính và console chơi game, nhưng nhanh chóng chuyển sang việc trở thành một người bạn tâm giao giữa những cảm giác cô đơn, bị cô lập và cảm thấy không được yêu thương.
Alice đã vật lộn với sức khỏe tâm thần của mình. Trong khi cô ấy đang uống thuốc và thường xuyên tham gia trị liệu, theo mẹ cô, trong nhiều tháng cô đã tâm sự với chatbot. Cô đã chia sẻ những suy nghĩ về tự sát và tìm cách thực hiện, điều này, theo một vụ kiện mới được nộp vào thứ Năm tại tòa án California, đã xảy ra hơn 40 lần.
Một nghiên cứu khác từ Đại học West Texas A&M cũng nhắm đến thanh thiếu niên và người trẻ tuổi cho thấy gần một phần năm thanh thiếu niên phát triển sự phụ thuộc vào AI, với các vấn đề sức khỏe tâm thần đã tồn tại trước đó là yếu tố dễ dẫn đến sự phụ thuộc.
Các nhà lập pháp đã bắt đầu chú ý. Tại Canada, một dự luật an toàn số mới, được giới thiệu vào thứ Tư, sẽ yêu cầu các công ty như OpenAI phải “minh bạch” hơn về các tiêu chuẩn báo cáo của họ trong các tình huống khủng hoảng, nơi người dùng có thể tự gây hại cho bản thân hoặc người khác.
Tại bang Washington, thống đốc đã ký một dự luật yêu cầu các chatbot AI nhắc nhở người dùng rằng họ không phải là con người sau mỗi ba giờ và sẽ có hiệu lực vào tháng 1 năm 2027. Các bang khác như Illinois, ví dụ, đã cấm liệu pháp AI.
Ở cấp liên bang, Đại diện Mike Lawler, một đảng viên Cộng hòa từ New York, đã giới thiệu một dự luật yêu cầu các công ty chatbot thông báo cho cha mẹ về các tương tác nơi người dùng thảo luận về ý tưởng tự sát. Tuy nhiên, dự luật này chỉ áp dụng cho người vị thành niên.