Luna trecută, un prieten mi-a spus ceva ce l-a speriat puțin.
El testează un instrument AI de analiză financiară, lăsându-l să ruleze o evaluare a riscurilor pentru un portofoliu. Modelul a generat un raport care părea foarte profesional, sugerând ajustarea pozițiilor. Nu a urmat totul la virgulă, ci a luat în considerare doar parțial.
Mai târziu am descoperit că judecata centrală a acelui raport se baza pe un set de date istorice cu probleme de calitate - modelul a folosit input-uri greșite, dar output-ul părea foarte încrezător.
El a întrebat platforma: De unde provin datele de antrenament pentru acest raport?
Platforma a răspuns: Nu putem oferi informații despre sursa datelor.