Modelele AI nu au suficiente verificări.
Intrăm într-o fază în care AI este peste tot, roboți de tranzacționare și instrumente, asistenți de cercetare, motoare de conținut, agenți autonomi. Dar odată cu această expansiune apare o problemă tot mai mare: încredere fără certitudine.
AI poate părea corect chiar și atunci când greșește. Produce răspunsuri cu autoritate, chiar și atunci când raționamentul subiacente este defectuos. Pentru utilizare ocazională, acest lucru este gestionabil. Pentru finanțe, automatizare, sănătate sau fluxuri de lucru legale, știri, aceasta devine un risc real.
Problema de bază este fiabilitatea: