Systemy Blockchain Zasilane AI
Patrz, co kilka lat branża technologiczna znajduje dwa modne pomysły, łączy je i ogłasza, że przyszłość nadeszła.
Dziś to AI i blockchain.
Wczoraj to był blockchain i Internet Rzeczy. Wcześniej to były wielkie dane i chmura. Przed tym, sieci społecznościowe i wirtualne światy. Widziałem ten film wcześniej. Zwiastun zawsze jest spektakularny. Zakończenie zazwyczaj jest znacznie mniej ekscytujące.
Prezentacja za systemami blockchain zasilanymi AI brzmi wystarczająco elegancko: wykorzystaj sztuczną inteligencję do automatyzacji decyzji, alokacji zasobów, zarządzania zdecentralizowanymi sieciami i optymalizacji rynków bez ludzkiej ingerencji. Blockchain zapewnia zaufanie. AI zapewnia inteligencję. Razem, jak nam mówiono, tworzą samodzielnie zarządzające się cyfrowe gospodarki.
Brzmi schludnie.
Na papierze, przynajmniej.
Ale gdy tylko zaczynasz ciągnąć za sznurki, cała architektura zaczyna wyglądać mniej jak przełom i bardziej jak skomplikowana maszyna zaprojektowana do rozwiązywania problemów, których wielu ludzi nigdy nie miało na początku.
Problem, który twierdzą, że rozwiązują
Narracja branżowa jest prosta.
Ludzie są wolni. Zarządzanie jest chaotyczne. Systemy głosowania na blockchainie są nieskuteczne. Zdecentralizowane sieci mają trudności z koordynowaniem dużych grup ludzi. Rynki mogą być manipulowane. Decyzje zajmują za długo.
Dlatego AI powinno podejmować decyzje.
Zamiast tysięcy posiadaczy tokenów debatować nad propozycjami, algorytmy analizują dane i rekomendują działania. Zamiast ludzkich menedżerów alokujących płynność, agenci AI przenoszą kapitał automatycznie. Zamiast zarządzania napędzanego przez społeczności, modele predykcyjne identyfikują "optymalny" wynik.
Obietnica to efektywność.
Podstawowe założenie jest znacznie bardziej ambitne: że samo zarządzanie jest zasadniczo problemem optymalizacji.
Tam zaczynają się problemy.
Bo rządy, firmy, społeczności i rynki to nie tylko systemy czekające na optymalizację. To zbiory konkurencyjnych interesów. Zawierają niezgody, walki o władzę, sprzeczne motywacje i niedoskonałe informacje.
AI nie eliminuje tych napięć.
Po prostu je ukrywa za panelem sterowania.
Kiedy płynność zaczyna działać jak władza polityczna
Jednym z najdziwniejszych rozwoju w krypto była transformacja płynności w władzę zarządczą.
Im więcej tokenów posiadasz, tym większy masz wpływ.
Im większy masz wpływ, tym więcej kontroli zdobywasz nad zasadami.
Im więcej kontroli zyskujesz, tym łatwiej staje się chronić swoją pozycję.
Teraz wprowadź AI.
Nagle najwięksi posiadacze nie tylko głosują. Uruchamiają zautomatyzowane systemy zdolne do analizowania propozycji, koordynowania ruchów kapitału, wpływania na warunki rynkowe i reagowania szybciej niż zwykli uczestnicy kiedykolwiek mogli.
Branża opisuje to jako inteligentne zarządzanie.
Bądźmy szczerzy.
To często władza zarządzania oparta na bogactwie z lepszym oprogramowaniem.
Problem koncentracji nie znika. Zostaje wzmocniony.
Materiały marketingowe mówią bez końca o decentralizacji. Znacznie mniej dyskutują o tym, że wiele rzekomo zdecentralizowanych systemów jest już kontrolowanych przez stosunkowo małą liczbę portfeli, organizacji, funduszy venture i dostawców infrastruktury.
Dodanie AI nie rozdziela władzy.
Może po prostu uczynić skoncentrowaną władzę bardziej efektywną.
Pułapka złożoności
Technologia ma tendencję do tworzenia rozwiązań, które wymagają jeszcze większych rozwiązań do ich zarządzania.
Systemy blockchain napędzane AI są doskonałym przykładem.
Na początku masz samą blockchain.
Potem potrzebujesz mechanizmów zarządzania.
Potem ekonomia tokenów.
Potem systemy oracle, aby wprowadzić dane zewnętrzne do sieci.
Potem modele AI.
Potem monitorowanie modeli.
Potem detekcja biasu.
Potem audyty bezpieczeństwa.
Potem systemy zapasowe na wypadek błędów AI.
Potem kontrole awaryjne na wypadek, gdy systemy zapasowe zawiodą.
Potem procedury zarządzania, aby zdecydować, kiedy powinny być aktywowane kontrole awaryjne.
W pewnym momencie musisz się zatrzymać i zadać proste pytanie:
Co dokładnie stało się prostsze?
Odpowiedź zazwyczaj brzmi nic.
Początkowy problem mógł być stosunkowo prosty. Proponowane rozwiązanie wprowadza całe warstwy zależności technicznych, z których każda może zawieść niezależnie.
Złożoność nie jest za darmo.
Akumuluje odsetki.
Centralizacja, o której nikt nie chce rozmawiać
Oto część, która zwykle znika z prezentacji na konferencjach.
AI wymaga infrastruktury.
Duże modele wymagają mocy obliczeniowej.
Moc obliczeniowa wymaga centrów danych.
Centra danych wymagają operatorów.
Operatorzy potrzebują pieniędzy.
Pieniądze tworzą strażników.
Wynik jest taki, że wiele "decentralizowanych" systemów AI opiera się w dużej mierze na zaskakująco scentralizowanym zestawie aktorów.
Ktoś trenuje modele.
Ktoś przechowuje dane.
Ktoś utrzymuje sprzęt.
Ktoś aktualizuje oprogramowanie.
Ktoś decyduje, która wersja jest wdrażana.
Gdzieś, za całą retoryką o autonomicznych sieciach, prawie zawsze znajduje się mała grupa ludzi z niezwykłym wpływem na system.
Blockchain może być rozproszony.
Pipeline podejmowania decyzji często nie działa.
To zupełnie inna sprawa.
Problem rzeczywistości ludzkiej
Każda technologia wygląda imponująco, dopóki coś nie pójdzie źle.
Potem zaczyna się prawdziwy test.
Wyobraź sobie, że protokół finansowy zarządzany przez AI błędnie klasyfikuje zdarzenie rynkowe.
Wyobraź sobie, że model reaguje niewłaściwie na zmanipulowane dane.
Wyobraź sobie, że płynność kierowana jest w błędną strategię.
Wyobraź sobie, że miliardy dolarów przesuwają się automatycznie, zanim ktokolwiek to zauważy.
Kto jest odpowiedzialny?
Programiści?
Posiadacze tokenów?
Twórcy modeli?
Dostawcy infrastruktury?
Samo AI?
Nikt nie wydaje się szczególnie chętny, by odpowiedzieć na to pytanie.
Bo niewygodna prawda jest taka, że automatyzacja może tak skutecznie rozdzielać odpowiedzialność, że odpowiedzialność staje się trudna do zlokalizowania.
Kiedy wszystko jest zautomatyzowane, każdy nagle ma powód, dla którego to nie była jego wina.
Haczyk ukryty za marketingiem
Każda wielka fala technologiczna ma swój haczyk.
Haczyk z mediów społecznościowych polegał na inwigilacji.
Problem z gospodarką zleceń polegał na niepewności zatrudnienia.
Haczyk z blockchainem polegał na tym, że wiele rzekomo zdecentralizowanych systemów okazało się zaskakująco scentralizowanych.
Haczyk z systemami blockchain napędzanymi AI może być nieprzezroczystość w zarządzaniu.
Prezentacja sprzedażowa podkreśla przejrzystość, ponieważ blockchainy są przejrzyste.
Ale silnik decyzyjny coraz częściej nie jest.
Możesz zobaczyć transakcję.
Nie zawsze możesz zrozumieć rozumowanie.
Możesz obserwować wynik.
Możesz nigdy nie zrozumieć modelu w pełni.
To niebezpieczne połączenie.
Przejrzysta infrastruktura w połączeniu z nieprzezroczystym podejmowaniem decyzji tworzy wrażenie odpowiedzialności, niekoniecznie ją dostarczając.
A pozory mają ogromne znaczenie w systemach finansowych.
Przemysł technologiczny uwielbia zastępować ludzką ocenę systemami, które twierdzą, że są obiektywne.
Te systemy prawie zawsze dziedziczą uprzedzenia, motywacje i struktury władzy ludzi, którzy je zbudowali.
Zarządzanie blockchainem napędzane AI raczej nie będzie inne.
Fundamentalnym wyzwaniem nie jest to, że ludzie są zaangażowani.
Wyzwanie polega na tym, że ludzie pozostają zaangażowani, udając, że tak nie jest.
Dlatego tak wiele tej rozmowy wydaje się być odwrócone.
Branża mówi o eliminowaniu zaufania, jednocześnie prosząc użytkowników o zaufanie projektantom modeli, operatorom infrastruktury, dostawcom danych, wielorybom tokenowym i komisjom zarządzającym.
To nie jest usunięcie zaufania.
To redystrybucja zaufania w miejsca, które są trudniejsze do zobaczenia.
A kiedy płynność staje się zarządzaniem, zarządzanie staje się automatyzacją, a automatyzacja staje się czarną skrzynką, pytanie nie brzmi, czy system może podejmować decyzje.
Pytanie brzmi, kto zyskuje, gdy te decyzje przestają mieć sens.
