H A R E E M

Kiedy ludzie mówią o robotyce i sztucznej inteligencji, rozmowa niemal zawsze kręci się wokół możliwości. Szybsze maszyny, mądrzejsze modele, większa autonomia. Historia zazwyczaj dotyczy tego, jak imponująca stała się technologia. Ale im więcej patrzę na projekty takie jak Fabric Protocol, tym bardziej czuję, że możliwości to tylko połowa prawdziwego problemu.

Bardziej zasadnicze pytanie brzmi, co się dzieje po tym, jak maszyna coś zrobi.

Wyobraź sobie przyszłość, w której roboty dostarczają paczki, zarządzają magazynami, inspekcjonują infrastrukturę lub nawet świadczą usługi w przestrzeniach publicznych. Kiedy coś idzie dobrze, nikt nie zadaje zbyt wielu pytań. Ale kiedy coś idzie źle - lub nawet gdy ludzie po prostu się nie zgadzają co do tego, co się wydarzyło - kto tak naprawdę weryfikuje prawdę? Kto decyduje, czy robot prawidłowo wykonał swoją pracę? Kto dostaje zapłatę, a kto bierze odpowiedzialność, jeśli się nie udało?

Większość rozmów na temat AI wciąż koncentruje się na tym, jak potężne modele się stają. Co kilka miesięcy pojawia się nowy punkt odniesienia, większy zbiór danych lub model, który pisze bardziej przekonująco niż poprzedni. Ale poświęceniu trochę czasu na zbadanie Mira Network, zrozumiałem, że bardziej interesujące pytanie może nie dotyczyć tego, jak inteligentne jest AI, ale jak bardzo powinniśmy ufać temu, co mówi.

Każdy, kto regularnie korzysta z AI, doświadczył tego dziwnego momentu, w którym odpowiedź na pierwszy rzut oka wygląda idealnie, ale coś w niej wydaje się nie tak. Czasami informacje są nieaktualne. Czasami cytat nie istnieje. A czasami całe wyjaśnienie jest pewnie błędne. Dziwną częścią jest to, że model nie waha się - przedstawia wszystko z tym samym poziomem pewności. To cicha słabość nowoczesnych systemów AI: są niesamowicie dobre w brzmieniu poprawnie, nawet gdy takie nie są.