👀

Przez długi czas wierzyłem, że przyszłość sztucznej inteligencji będzie definiowana przez większe modele, głębsze zestawy danych i lepsze metody treningowe. Jak wielu innych, zakładałem, że sama inteligencja jest wąskim gardłem.
Myliłem się.
Im głębiej zagłębiałem się w studiowanie systemów takich jak Mira Network, tym wyraźniej stawało się, że inteligencja nie jest prawdziwym problemem.
Zaufanie to.
Nowoczesne systemy AI nie zawodzą, ponieważ są słabe. Zawodzą, ponieważ jesteśmy zmuszeni im ufać bez odpowiedzialności. Wyniki brzmią pewnie, spójnie i przekonująco, a mimo to mogą być fałszywe. To nie jest wada inżynierii. To strukturalne ograniczenie systemów probabilistycznych.