Jest konkretny moment w prawie każdym projekcie AI, w którym cicho przestajesz ufać wynikowi. Nie robisz sceny ani nie ogłaszasz zmiany strategii; po prostu zaczynasz weryfikować wszystko. Zadajesz sobie podwójne pytania i googlujesz źródła w momencie, gdy odpowiedź wydaje się "zbyt idealna."
Szczerze mówiąc, to dzikie, jak normalna stała się ta sceptycyzm. Wprowadziliśmy te niesamowicie potężne systemy, ale potem musimy budować te "cienie procesów" z boku, aby upewnić się, że nie zostaniemy poparzeni.
Dlatego podejście Miry trafia do mnie – rzeczywiście odnosi się do przyczyny. Zamiast traktować halucynacje jak błędy, które można później naprawić, traktuje każdy wynik jako serię roszczeń, które wymagają weryfikacji. Te roszczenia są przeglądane przez różnych operatorów uruchamiających różne modele, wspierane przez system stawów i kar, które sprawiają, że bycie leniwym lub nieuczciwym jest kosztowne.
To nie jest tylko jakaś błyszcząca nowa funkcja. to zakład, że niezawodność pochodzi z tego, jak zbudowany jest system: rozkładać rzeczy, rozdzielać nadzór i naprawiać ekonomię tak, aby mówienie prawdy było rzeczywiście drogą najmniejszego oporu.
@Mira - Trust Layer of AI #Mira $MIRA
