Alice Carrier tinha recentemente começado a tocar violão de novo, um hobby que ela curtia no colégio, mas que deixou de lado durante a faculdade. Era uma das várias atividades que ela usava para ocupar seu tempo livre enquanto fazia entrevistas para novos jobs, passava tempo com seu cachorro e aproveitava atividades, incluindo gaming.
Pelo que parece, pelo menos para a mãe dela, Kristie Carrier, as coisas estavam indo bem. Alice estava trampando como desenvolvedora web em Montreal, Canadá, realizando um sonho que ela carregava desde a infância na pequena cidade de Lawrence, New Brunswick.
“As coisas estavam indo na direção certa, e pareciam estar melhorando para ela”, Carrier disse à Al Jazeera.
Mas o que Carrier não sabia era o quanto sua filha estava lutando em silêncio. Em 2023, ela começou a usar o ChatGPT para ajudar a identificar problemas com computadores e consoles de jogos, mas isso rapidamente se transformou em um confidante em meio a sentimentos de solidão, isolamento e de não ser amada.
Alice lutava com sua saúde mental. Enquanto tomava medicamentos e estava regularmente em terapia, segundo sua mãe, por meses, ela confiou no chatbot. Compartilhou pensamentos de suicídio e buscou maneiras de realizá-lo, o que, segundo uma nova ação judicial apresentada na quinta-feira em um tribunal da Califórnia, aconteceu mais de 40 vezes.
Outro estudo da Universidade West Texas A&M que também focou em adolescentes e jovens adultos descobriu que quase um quinto de todos os adolescentes desenvolveu dependência de IA, com problemas de saúde mental já existentes sendo uma predisposição para desenvolver a dependência.
Os legisladores começaram a prestar atenção. No Canadá, um novo projeto de lei de segurança digital, apresentado na quarta-feira, exigiria que empresas como a OpenAI fossem mais “transparentes” sobre seus padrões de relatório em situações de crise, onde os usuários podem se machucar ou machucar outros.
No estado de Washington, o governador assinou uma lei que exige que chatbots de IA lembrem os usuários de que não são humanos a cada três horas e que entrará em vigor em janeiro de 2027. Outros estados, como Illinois, por exemplo, proibiram a terapia com IA.
No nível federal, o representante Mike Lawler, um republicano de Nova York, apresentou um projeto de lei que exigiria que as empresas de chatbot notificassem os pais sobre interações onde a ideação suicida é discutida por um usuário. No entanto, esse projeto de lei se aplica apenas a menores.