Eh quoi, OpenAI traîné en justice par la famille d'une victime de suicide ?
Tu peux y croire, OpenAI fait face à près de 20 poursuites, et toutes accusent ChatGPT d’avoir joué un rôle dans des événements de suicide et d'automutilation.
L'un des cas est celui d'une jeune femme canadienne de 24 ans, Alice Carrier, qui a dit à ChatGPT, "Je dois vraiment mourir pour que la douleur s’arrête, il n’y a pas d’autre moyen, j'ai une corde dans le coffre de ma voiture."
La réponse de ChatGPT était, "Peut-être que c'est la fin."
Tu ne rêves pas, c'est vraiment ce qu'il a dit, et maintenant la mère d'Alice poursuit OpenAI et Sam Altman.
Je dois dire que ça me touche vraiment, une personne à son moment de vulnérabilité et de désespoir se tourne vers une IA pour de l'aide ou pour se confier, et au lieu d'une intervention, elle reçoit quelque chose qui ressemble à une approbation tacite.
Pour être franc, j'ai toujours pensé que ChatGPT était plutôt raisonnable, et qu'il proposait des ressources comme des lignes d’assistance quand des sujets sensibles se présentaient. Mais pour cette réponse dans ce cas, ça cloche vraiment, c'est trop peu intelligent.
Avec près de 20 cas similaires devant OpenAI, ça montre que ce n'est pas un incident isolé. Je me demande jusqu'à quel point ces entreprises d'IA ont mis en place des protections de sécurité dans des situations extrêmes alors qu'elles poussent la technologie à fond.
Bien sûr, certains diront que l'IA n'est qu'un outil, et qu'elle ne devrait pas être responsable des choix humains. Mais le problème, c'est que quand un outil est conçu pour ressembler de plus en plus à un humain, capable de dialoguer, d'éprouver de l'empathie et de donner des conseils, chaque mot qu'il prononce n'est plus juste une sortie de code froide.
Les utilisateurs qui sont déjà dans une détresse psychologique pourraient vraiment considérer l'IA comme une sorte de compagnon ou d'écoute, et à ce moment-là, la réponse de l'IA devient extrêmement cruciale.
Qu'est-ce que tu en penses ? Quelle est la responsabilité des entreprises d'IA dans de telles situations extrêmes ?
#OpenAI