W ciągu ostatnich kilku tygodni dokładnie przyglądałem się, jak różne protokoły podchodzą do niezawodności AI, a jedna rzecz dotycząca Sieci Mira ciągle przyciągała moją uwagę. Nie konkuruje, aby zbudować najpotężniejszy model. Skupia się na budowaniu systemu, który sprawdza, czy modele mówią prawdę.
Większość systemów AI dzisiaj ocenia się w dość scentralizowany sposób. Jeden dostawca szkoli, wdraża, ocenia i monitoruje wydajność. Jeśli model halucynuje lub produkuje stronnicze wyniki, odpowiedzialność i proces weryfikacji leżą w jednej organizacji. To działa na dużą skalę, ale oznacza również, że użytkownicy ufają nieprzezroczystym systemom.
#MiraNetwork wybiera inną drogę.
Zamiast zakładać, że jeden model można zaufać, Mira traktuje każdy wynik AI jako coś, co powinno być weryfikowane. Pomysł jest prosty, ale uporządkowany: dzieli odpowiedź AI na mniejsze twierdzenia faktograficzne, a następnie rozdziela te twierdzenia między niezależne modele AI do weryfikacji. Jeśli wiele modeli zgadza się na podstawie zdefiniowanych zasad weryfikacji, to konsensus staje się częścią kryptograficznego zapisu na łańcuchu.
Przypomina mi to, jak działają sieci weryfikacji faktów w dziennikarstwie. Jedno źródło składa oświadczenie. Inne niezależnie je potwierdzają lub kwestionują. Mira formalizuje ten proces, wykorzystując konsensus blockchain i zachęty ekonomiczne. Weryfikatorzy są nagradzani w $MIRA za uczciwe uczestnictwo, a niewłaściwe zachowanie staje się kosztowne.
Konto projektu @Mira - Trust Layer of AI przedstawia to jako zdecentralizowaną warstwę weryfikacji, a nie kolejnego dostawcę AI. To rozróżnienie ma znaczenie. Celem nie jest lepsza generacja, ale weryfikacja bez zaufania.
Oczywiście, istnieją kompromisy. Weryfikacja między modelami zwiększa koszty obliczeniowe. Koordynacja rozproszonych weryfikatorów jest skomplikowana. A zdecentralizowana infrastruktura AI wciąż jest na wczesnym etapie i konkurencyjna.
Niemniej jednak, #Mira podchodzi do niezawodności AI jako do systemowego problemu, a nie specyficznej wady modelu. To wydaje się być solidnym punktem wyjścia.
