Luna trecută am văzut un trader care a pierdut șase cifre pentru că un model AI a citat cu încredere o depunere de reglementare inexistentă. Halucinația a avut un format perfect, date realiste, chiar și un număr de document fals. Până când verificarea umană a prins-o, daunele erau deja făcute.
Asta nu este rar. Este marți.
Implementăm sistemele AI mai repede decât putem să ne încredem în ele. Diagnostice medicale, contracte legale, analize financiare - domenii în care o singură eroare se transformă într-o catastrofă. Soluția actuală? Să aruncăm mai mulți oameni asupra problemei. Dar supravegherea umană nu se scalează, iar "încrede-te, dar verifică" se destramă atunci când verificarea durează mai mult decât fereastra de decizie.