La première fois qu'une entreprise dit : « l'IA ne fait que suggérer », on peut presque entendre le service juridique respirer plus facilement.

Parce que « suggestion » est un bouclier pratique. Le modèle produit la sortie. Un humain clique sur approuver. Si quelque chose ne va pas, la responsabilité se dissout dans des diagrammes de processus et des graphiques de flux de travail. Le système a agi, mais personne ne possédait véritablement l'action.

C'est la véritable crise de responsabilité dans l'IA. Ce n'est pas principalement une question de précision du modèle, de coût ou de latence. Il s'agit de responsabilité. Lorsqu'une décision pilotée par l'IA cause un préjudice — un prêt refusé, une transaction signalée, une recommandation médicale, une alerte de conformité — qui porte le fardeau de la preuve ?