Qualche mese fa, ho usato l'IA per un compito importante. La risposta sembrava perfetta. Era ben scritta, sicura e dettagliata. Onestamente, sembrava che un esperto l'avesse scritta. Ero pronto a usarla senza cambiarla molto.

Ma qualcosa mi ha detto di ricontrollare.

Quando ho verificato le informazioni, ho scoperto che due fatti importanti erano sbagliati. Non piccoli errori, veri e propri errori. Quel momento ha cambiato il modo in cui vedo l'IA.

L'IA è impressionante. È veloce, creativa e molto utile. Ma non è sempre affidabile. Prevede le parole in base ai modelli. A volte riempie gli spazi con informazioni che sembrano vere ma non lo sono. Queste vengono chiamate “allucinazioni”, ma in termini semplici, sono solo errori. E gli errori possono essere costosi, specialmente in finanza, sanità, ricerca o trading.