Dlaczego społeczeństwo może napotkać AGI długo po jej prawdziwym pojawieniu się
Historia technologii strategicznej wielokrotnie pokazuje prostą, ale niepokojącą rzeczywistość: publiczny dostęp rzadko jest prawdziwym początkiem zdolności technologicznych. Zamiast tego, publiczne wydanie często reprezentuje końcowy etap znacznie dłuższego cyklu obejmującego badania tajne, elitarną eksperymentację, adaptację obronną, doskonalenie instytucjonalne i kontrolowane wdrażanie.
Ten wzór pojawił się w wielu generacjach transformacyjnych technologii, w tym kryptografii, cyberwojny, systemów satelitarnych, technologii stealth, inteligencji blockchain oraz teraz sztucznej inteligencji.
Wzrost dużych modeli językowych (LLMs) oferuje jeden z najjaśniejszych nowoczesnych przykładów.
Architektura transformera pojawiła się publicznie w 2017 roku. Do 2019 roku GPT-2 już wykazał niespotykaną dotąd zdolność generowania języka. W 2020 roku GPT-3 ujawnił, że ogólna inteligencja konwersacyjna przekroczyła istotny próg. Jednak masowa publiczna realizacja nie miała miejsca aż do końca 2022 roku z uruchomieniem ChatGPT.
Prawie trzy lata dzieliły poważne pojawienie się zdolności od powszechnej świadomości publicznej.
To opóźnienie nie jest przypadkowe. Odzwierciedla to to, co można nazwać:
Opóźnienie w ujawnieniu technologii strategicznych
Ta teza sugeruje, że zaawansowane technologie często dojrzewają w ograniczonych środowiskach instytucjonalnych lata przed tym, jak są bezpiecznie, komercyjnie, politycznie lub społecznie wystawione na szerszą publiczność.
Powody są strukturalne:
Rządy oceniają implikacje strategiczne.
Organizacje obronne testują użyteczność operacyjną.
Korporacje udoskonalają modele monetyzacji.
Zespoły ds. bezpieczeństwa wprowadzają ograniczenia.
Infrastruktura rozwija się stopniowo.
Publiczna gotowość jest oceniana.
Ramy regulacyjne pozostają w tyle za rzeczywistością.
W rezultacie, to co publiczność postrzega jako „nagły przełom” często jest jedynie pierwszą widoczną warstwą znacznie głębszej i starszej stosu zdolności.
Implikacje dla sztucznej ogólnej inteligencji (AGI) są głębokie.
Hipoteza ujawnienia AGI
Jeśli trajektoria LLM-ów podążała za wieloletnim opóźnieniem między wewnętrzną zdolnością a publiczną dostępnością, staje się rozsądne zapytać:
Co jeśli AGI podąży za tym samym wzorem?
To niekoniecznie oznacza, że w pełni autonomiczna superinteligencja tajnie rządzi światem za zamkniętymi drzwiami. Tak dramatyczne twierdzenia przekraczają publicznie weryfikowalne dowody. Jednak strategicznie jest to możliwe, że wysoko zaawansowane systemy podobne do AGI mogą pojawić się w ograniczonych środowiskach przed jakimkolwiek formalnym ogłoszeniem publicznym.
Zgodnie z tą hipotezą, 2027 może nie reprezentować narodzin AGI dla publiczności. Może zamiast tego reprezentować początek kontrolowanej ekspozycji cywilnej na systemy, które już przeszły lata wewnętrznego doskonalenia.
To tworzy to, co można określić jako:
Luka gotowości AGI
Publiczność, instytucje edukacyjne, rządy, biznes i systemy pracy nadal dostosowują się do obecnych LLM-ów, podczas gdy rozwój AI na granicy przyspiesza w niespotykanym tempie.
Większość społeczeństw pozostaje strukturalnie nieprzygotowana na:
autonomiczne systemy agentowe
suwerenne infrastruktury AI
architektury decyzyjne napędzane AI
w pełni zautomatyzowane procesy poznawcze
syntetyczne systemy rozumowania
operacje cybernetyczne i wywiadowcze wspomagane AI
masowe przesunięcie ekonomiczne
przyspieszenie naukowe napędzane maszynami
Nawet dzisiaj, debata publiczna często krąży wokół podstawowego użycia AI, podczas gdy systemy graniczne coraz bardziej demonstrują:
wielomodalne rozumowanie
autonomiczne orkiestracje zadań
generowanie kodu
planowanie strategiczne
użycie narzędzi
integracja pamięci
inteligencja wspomagana wyszukiwaniem
współpraca wieloagentowa
Przerwa między postrzeganiem publicznym a zdolnością graniczną może zatem szybko się powiększać.
Podteza „Przyciętej Inteligencji”
Jedną z bardziej niepokojących możliwości jest to, że publiczne systemy AI mogą przedstawiać celowo ograniczone lub uproszczone wersje zdolności granicznych.
Zgodnie z tą podtezą:
publiczne systemy priorytetują bezpieczeństwo i stabilność
systemy strategiczne priorytetują zdolność i użyteczność operacyjną
modele publiczne są moderowane, filtrowane i ograniczone zasobowo
systemy instytucjonalne mogą działać pod zupełnie innymi progami
Historycznie, to nie byłoby niezwykłe. Instytucje strategiczne konsekwentnie posiadały wcześniejsze lub bardziej zdolne wersje krytycznych technologii przed ich publiczną dyfuzją.
Głównym zmartwieniem nie jest spiskowanie. To asymetria.
Cywilizacja może zbliżać się do momentu, w którym przepaść zdolności między elitarnymi operatorami AI a zwykłymi instytucjami staje się historycznie bezprecedensowa.
Przejście na poziomie cywilizacji
Przejście AI nie jest porównywalne z zwykłą ewolucją oprogramowania. Przypomina powstanie:
elektryczność
technologii jądrowej
internet
automatyzacja przemysłowa
z wyjątkiem skompresowania ich w dramatycznie krótsze terminy.
Nadchodząca dekada może zdefiniować:
praca
zarządzanie
finanse
wywiad
wojna
edukacja
ekonomia
suwerenność sama w sobie
Narody, które nie będą w stanie zbudować suwerennej zdolności AI, mogą stać się strategicznie zależne od zewnętrznych infrastruktur wywiadowczych. Korporacje, które nie zintegrowały AI na głębokim poziomie, mogą stać się operacyjnie przestarzałe. Systemy edukacyjne, które wciąż przygotowują uczniów do pracy w erze przemysłowej, ryzykują produkcję pokoleń nieprzygotowanych na gospodarki zautomatyzowanej poznawczo.
Kluczową kwestią nie jest zatem to, czy AGI pojawi się publicznie w 2027 roku czy później.
Głębszym problemem jest to, czy społeczeństwo zdaje sobie sprawę, że techniczna zdolność i widoczność publiczna rzadko są zsynchronizowane.
Wnioski
Teza o opóźnieniu ujawnienia technologii strategicznych nie twierdzi, że istnieje pewność co do ukrytego wdrożenia AGI. Raczej argumentuje, że historia wielokrotnie wykazuje mierzalne opóźnienie między rzeczywistym pojawieniem się zdolności a publiczną realizacją.
LLM-y same już podążały za tym wzorem.
Jeśli AGI podąży podobną trajektorią, to ludzkość może obecnie żyć nie na początku rewolucji inteligencji, ale gdzieś w połowie przejścia, którego prawdziwa głębokość pozostaje w dużej mierze niewidoczna dla sfery publicznej.
A w momencie, gdy publiczność w pełni to rozpozna, transformacja może być już nieodwracalna.
-z dziennika prof. Ahmada Bilala Khana