Perché l'IA non ha bisogno di essere più intelligente—ha bisogno di essere verificata
Quando ho iniziato a studiare l'IA, credevo che il futuro fosse semplice: modelli più grandi, più dati e algoritmi più intelligenti. Pensavo che l'intelligenza avrebbe risolto tutto. Ma più ricercavo sistemi come Mira Network, più mi rendevo conto di qualcosa di scomodo. L'intelligenza non è il problema. La fiducia lo è.
L'IA di oggi non fallisce perché è stupida. Fallisce perché è sicura mentre è sbagliata. Non è un difetto tecnico: è una caratteristica di design. I modelli di IA sono probabilistici. Indovinano. E a volte indovinano risposte magnificamente sbagliate che sembrano perfettamente corrette.