człowieku… dzisiaj zszedłem w tę norę Mira Network i teraz mam trochę przegrany mózg lol. wiesz jak to się zaczyna… czytasz jeden wątek, potem drugi, a nagle jest 2 w nocy i jesteś głęboko w dokumentach i przypadkowych postach próbując ustalić, czy coś jest naprawdę mądre, czy po prostu ludzie kryptowalutowi znowu robią swoje.
jednak cała ta idea jakoś utkwiła mi w głowie. jak… wszyscy już wiedzą, że AI się myli. po prostu to robi. czasami to niesamowite, a czasami wypuszcza coś całkowicie wymyślonego, ale mówi to tak, jakby to było w 100% fakt. ta część zawsze mnie niepokoiła. jak kiedy człowiek coś zgaduje, zazwyczaj można to wyczuć… ale AI po prostu wchodzi w tryb pełnej pewności, nawet gdy się myli.
więc ci goście zasadniczo mówią, że zamiast ufać jednej sztucznej inteligencji, pozwólmy, żeby kilka z nich sprawdzało się nawzajem, a sieć zdecyduje, czy coś jest ważne. a kiedy pierwszy raz to przeczytałem, pomyślałem: „hmm… ok, to w rzeczywistości jest całkiem sprytne.”
ale potem pięć minut później myślę: „czekaj, zatrzymaj się.”
jeśli modele AI mogą halucynować… dlaczego posiadanie ich większej liczby miałoby to naprawić? jak jeśli pięciu pijanych ludzi kłóci się o kierunki, mogą nadal wskazać ci złą drogę lol. ciągle wracam do tej myśli. może działa lepiej niż to, nie wiem… ale to nadal AI sprawdzające AI, co wydaje się trochę dziwne.
jednocześnie jednak trochę rozumiem, co próbują zrobić. zamiast udawać, że AI magicznie stanie się doskonałe pewnego dnia, zakładają, że tak się nie stanie i próbują zbudować coś wokół tego. prawie jak druga warstwa. AI mówi coś, a potem sieć mówi: „ok, sprawdźmy to, zanim uwierzymy.”
w rzeczywistości bardziej podoba mi się to nastawienie niż całe podejście „po prostu zbuduj większy model, stary” które wszyscy ciągle promują.
ale tak… mój mózg ciągle przeskakuje między „to jest interesujące” a „to może być znacznie trudniejsze, niż się wydaje.” ponieważ pomyśl o tym… każde roszczenie lub kawałek informacji sprawdzany przez wiele modeli w sieci… to dużo obliczeń. dużo. a sieci kryptograficzne już mają wystarczająco dużo problemów z opóźnieniami.
jak wyobrazić sobie, że prosisz agenta AI o zrobienie czegoś prostego i musi czekać na jakiś mini proces konsensusu przed przejściem dalej. brzmi wolno. może jednak się mylę.
jeszcze jedna rzecz, która mnie niepokoiła… jak bardzo te modele różnią się od siebie? ponieważ jeśli większość walidatorów kończy na uruchamianiu podobnych modeli wytrenowanych na podobnych danych, mogą po prostu zgadzać się nawzajem, nawet gdy odpowiedź jest błędna. jak pięciu przyjaciół, którzy wszyscy uczyli się z tych samych złych notatek przed egzaminem.
Prawdopodobnie za dużo o tym myślę, ale tak, to przyszło mi do głowy.
kwestia zachęt też jest klasyczna w kryptowalutach. walidatorzy dostają nagrody, jeśli poprawnie weryfikują rzeczy, a tracą pieniądze, jeśli tego nie robią. widzieliśmy ten projekt sto razy w blockchainach. czasami działa to pięknie… czasami ludzie znajdują dziwne sposoby na oszukiwanie tego. ekonomia kryptowalut zawsze brzmi czysto w teorii niż w rzeczywistości.
nadal… nie mogę powiedzieć, że pomysł jest głupi. problem, na który celują, jest naprawdę ogromny. niezawodność AI to teraz bałagan. każda firma używająca AI zasadniczo stawia wszędzie zabezpieczenia, ponieważ nikt w pełni nie ufa wynikom.
i szczerze mówiąc, jeśli ktoś zbudowałby system, w którym odpowiedzi AI są naprawdę weryfikowane przed użyciem… to zmieniłoby wiele rzeczy.
ale tak… byłem w kryptowalutach wystarczająco długo, żeby wiedzieć, ile „to zmienia wszystko” projektów pojawia się w każdym cyklu. niektóre z nich naprawdę stają się infrastrukturą. większość z nich po prostu cichutko znika, gdy hype znika.
ten projekt dla mnie teraz siedzi gdzieś pośrodku. jestem ciekawy, ale też trochę sceptyczny. jak gdyby ktoś opowiadał ci o restauracji, która jest „najlepsza w mieście”, a ty jesteś podekscytowany, ale też spodziewasz się, że może to być tylko przyzwoita pizza.
Muszę powiedzieć jednak… przynajmniej próbują rozwiązać prawdziwy problem. to już stawia ich przed połową projektów, które widziałem ostatnio.
w każdym razie tak… to tam wylądowały moje myśli po przeczytaniu zbyt wiele na ten temat dzisiaj wieczorem. może to okaże się czymś wielkim… może to po prostu kolejny sprytny pomysł w białej księdze, który brzmi lepiej niż działa w praktyce.
jeszcze trudno powiedzieć.
kryptowaluty zawsze tak na mnie działają lol. w jednej chwili jesteś przekonany, że coś może naprawdę mieć znaczenie… w następnej chwili myślisz: „nie, to może być po prostu kolejna nora królicza.”
#mira @Mira - Trust Layer of AI $MIRA
