Prima dată când o companie spune: „AI doar sugerează”, aproape că poți auzi departamentul juridic respirând mai ușor.

Pentru că „sugestia” este un scut convenabil. Modelul produce rezultatul. Un om face clic pe aprobat. Dacă ceva merge prost, responsabilitatea se dizolvă în diagrame de proces și grafice de flux de lucru. Sistemul a acționat, dar nimeni nu a deținut cu adevărat acțiunea.

Aceasta este adevărata criză a responsabilității în AI. Nu este vorba în principal despre acuratețea modelului, costuri sau latență. Este vorba despre responsabilitate. Când o decizie condusă de AI cauzează daune - un împrumut refuzat, o tranzacție semnalată, o recomandare medicală, un avertisment de conformitate - cine poartă povara dovezilor?