Când aud „stratul de responsabilitate al IA”, prima mea reacție nu este optimism. Este scepticism. Nu pentru că responsabilitatea nu este necesară, ci pentru că expresia este adesea folosită ca o scurtătură morală - de parcă adăugarea verificării transformă automat sistemele probabilistice în surse de adevăr. Nu o face. Ce face, în cel mai bun caz, este să schimbe cine este responsabil când lucrurile merg prost.
De ani de zile, modelul dominant în IA a tratat erorile ca un produs secundar acceptabil. Halucinațiile, prejudecățile și rezultatele neverificabile sunt prezentate ca limitări pe care utilizatorii trebuie să învețe să le gestioneze. Povara revine persoanei care citește rezultatul: verificarea faptelor, referința încrucișată a surselor, aplicarea judecății. Cu alte cuvinte, sistemul produce răspunsuri, iar utilizatorul își asumă responsabilitatea.