Alice Carrier aveva recentemente ricominciato a suonare la chitarra, un hobby che le piaceva ai tempi del liceo ma che aveva messo da parte durante il college. Era una delle tante attività che riempivano il suo tempo libero mentre cercava nuovi lavori, passava del tempo con il suo cane e si dedicava ad attività, incluso il gaming.
A quanto pare, almeno per sua madre, Kristie Carrier, le cose stavano andando bene. Alice lavorava come sviluppatrice web a Montreal, Canada, realizzando un sogno che portava dentro fin da quando cresceva nella piccola città di Lawrence, New Brunswick.
“Le cose stavano andando nella giusta direzione e sembrava che stessero migliorando per lei”, ha detto Carrier ad Al Jazeera.
Ma ciò che Carrier non sapeva era quanto sua figlia stesse lottando in silenzio. Nel 2023, ha iniziato a usare ChatGPT per aiutare a identificare problemi con computer e console di gioco, ma questo è rapidamente diventato più un confidente in mezzo a sentimenti di solitudine, isolamento e di non essere amata.
Alice ha lottato con la sua salute mentale. Mentre assumeva farmaci e andava regolarmente in terapia, secondo sua madre, per mesi si è confidato con il chatbot. Ha condiviso pensieri di suicidio e cercato modi per attuarli, il che, secondo una nuova causa intentata giovedì in un tribunale della California, è avvenuto più di 40 volte.
Un altro studio della West Texas A&M University che ha preso di mira adolescenti e giovani adulti ha trovato che quasi un quinto di tutti gli adolescenti ha sviluppato dipendenza dall'AI, con problemi di salute mentale preesistenti come predisposizione allo sviluppo della dipendenza.
I legislatori hanno iniziato a prendere nota. In Canada, una nuova legge sulla sicurezza digitale, introdotta mercoledì, richiederebbe a aziende come OpenAI di essere più “trasparenti” riguardo ai loro standard di reporting in situazioni di crisi, dove gli utenti potrebbero farsi del male o far male agli altri.
Nello stato di Washington, il governatore ha firmato una legge che richiede ai chatbot AI di ricordare agli utenti che non sono umani ogni tre ore e entrerà in vigore a gennaio 2027. Altri stati come l'Illinois, ad esempio, hanno vietato la terapia AI.
A livello federale, il rappresentante Mike Lawler, un repubblicano di New York, ha introdotto un disegno di legge che richiederebbe alle aziende di chatbot di informare i genitori delle interazioni in cui si discute di ideazione suicidaria da parte di un utente. Tuttavia, questo disegno di legge si applica solo ai minori.