Parte A: La crisi di affidabilità nell'IA moderna.
Finanza, sanità, media e sviluppo software stanno cambiando rapidamente grazie all'intelligenza artificiale. L'intelligenza artificiale sta trovando spazio nelle decisioni ad alto valore; ci sono sistemi di trading automatizzati e persino copiloti AI per assistere gli sviluppatori. Nonostante la sua forza, l'IA ha un difetto fatale: non garantisce l'accuratezza.

I modelli di linguaggio di grandi dimensioni sono costruiti in modo tale da fornire la risposta statisticamente più probabile. Sono progettati per essere fluenti piuttosto che veritieri. Questa è la ragione per cui i sistemi di IA possono fornire risposte altamente sicure, che sono parzialmente errate o completamente fabbricate, ciò che comunemente viene chiamato allucinazione.