Kiedy słyszę „warstwa odpowiedzialności AI”, moją pierwszą reakcją nie jest optymizm. To sceptycyzm. Nie dlatego, że odpowiedzialność nie jest konieczna, ale ponieważ ten zwrot często jest używany jako moralny skrót – jakby dodanie weryfikacji automatycznie przekształcało probabilistyczne systemy w źródła prawdy. Tak nie jest. Co najwyżej, zmienia to to, kto jest odpowiedzialny, gdy coś pójdzie nie tak.
Przez lata dominujący model w AI traktował błędy jako akceptowalny produkt uboczny. Halucynacje, stronniczość i nieweryfikowalne wyniki są przedstawiane jako ograniczenia, które użytkownicy muszą nauczyć się zarządzać. Ciężar spoczywa na osobie czytającej wynik: podwójna weryfikacja faktów, krzyżowe odniesienia do źródeł, stosowanie osądu. Innymi słowy, system produkuje odpowiedzi, a użytkownik wykonuje odpowiedzialność.