Alice Carrier avait récemment recommencé à jouer de la guitare, un hobby qu'elle appréciait au lycée mais qu'elle avait mis de côté pendant ses études. C'était l'une des plusieurs activités qu'elle occupait durant son temps libre en cherchant de nouveaux boulots, passant du temps avec son chien et profitant d'activités, y compris le gaming.
À première vue, du moins aux yeux de sa mère, Kristie Carrier, tout semblait aller pour le mieux. Alice travaillait comme développeuse web à Montréal, Canada, réalisant un rêve qu'elle avait depuis son enfance dans la petite ville de Lawrence, au Nouveau-Brunswick.
« Les choses allaient dans la bonne direction, et cela semblait s'améliorer pour elle », a déclaré Carrier à Al Jazeera.
Mais ce que Carrier ne savait pas, c'est à quel point sa fille luttait en silence. En 2023, elle a commencé à utiliser ChatGPT pour aider à identifier des problèmes avec des ordinateurs et des consoles de jeux, mais cela a rapidement évolué en étant davantage un confident au milieu des sentiments de solitude, d'isolement et de ne pas être aimée.
Alice a lutté avec sa santé mentale. Bien qu'elle prenait des médicaments et qu'elle était régulièrement en thérapie, selon sa mère, pendant des mois, elle s'est confiée au chatbot. Elle a partagé des pensées suicidaires et a cherché des moyens de les réaliser, ce qui, selon une nouvelle plainte déposée jeudi dans un tribunal de Californie, s'est produit plus de 40 fois.
Une autre étude de l'Université West Texas A&M, qui ciblait également les adolescents et les jeunes adultes, a révélé qu'environ un cinquième de tous les adolescents développait une dépendance à l'IA, avec des problèmes de santé mentale préexistants comme prédisposition à développer cette dépendance.
Les législateurs ont commencé à prendre note. Au Canada, un nouveau projet de loi sur la sécurité numérique, présenté mercredi, obligerait des entreprises comme OpenAI à être plus « transparentes » sur leurs normes de rapport en cas de crise, où les utilisateurs pourraient se blesser ou blesser les autres.
Dans l'État de Washington, le gouverneur a signé une loi qui oblige les chatbots IA à rappeler aux utilisateurs qu'ils ne sont pas humains toutes les trois heures et qui doit entrer en vigueur en janvier 2027. D'autres États comme l'Illinois, par exemple, ont interdit la thérapie IA.
Au niveau fédéral, le représentant Mike Lawler, un Républicain de New York, a introduit un projet de loi qui obligerait les entreprises de chatbots à notifier les parents des interactions où l'idéation suicidaire est discutée par un utilisateur. Cependant, ce projet de loi ne s'applique qu'aux mineurs.