AI nozare domā, ka nākotne ir par lielākiem modeļiem.
Ko darīt, ja īstā cīņa ir par uzticību?
Gadu gaitā tehnoloģiju nozare atkārtoja to pašu frāzi tik bieži, ka tā kļuva par pieņemtu ekonomikas likumu:
“Dati ir jaunā nafta.”
Tajā laikā salīdzinājums izklausījās briljanti.
Nafta dzinēja industriālo ekonomiku. Dati, cilvēki apgalvoja, darītu to pašu digitālajai. Uzņēmumi, kas izvilks vislielāko informācijas apjomu, kļūs par nākamā gadsimta dominējošajām spēkiem. Un kādu brīdi šī prognoze izskatījās pilnīgi pareiza.
Vislielākās tehnoloģiju kompānijas uz Zemes nebija obligāti tās, kas izstrādāja elegantākos produktus. Tās bija kompānijas, kas savāca visvairāk uzvedības signālu.
Katrs klikšķis.
Katrs meklējums.
Katrs pirkums.
Katrs atrašanās vietas ping.
Katrs pārtraukums, ritinot.
Katra mijiedarbība lēnām kļuva par degvielu arvien sarežģītākām mašīnmācīšanās sistēmām.
Loģika bija brutāli vienkārša:
Vairāk datu radīja labākus modeļus.
Labākie modeļi radīja labākas rekomendācijas.
Labākas rekomendācijas piesaistīja vairāk lietotāju.
Vairāk lietotāju radīja vairāk datu.
Un cikls atkārtojās, līdz neliels skaits firmu uzkrāja ārkārtīgu varu.
Gandrīz desmit gadu laikā AI ekonomika aug ap šo pieņēmumu. Mērogošana bija svarīgāka par caurskatāmību. Vākšana bija svarīgāka par izskaidrojumu. Tirgus atlīdzina ikvienu, kurš var ātrāk uzsūkt visvairāk informācijas.
Neviens tiešām neapšaubīja sistēmu, jo no biznesa viedokļa tā darbojās.
Bet tagad kaut kas jūtas citādāk.
Saruna par mākslīgo intelektu joprojām izklausās iestrēgusi tajā vecajā laikmetā, kamēr reālie riski un stimuli zem nozares lēni sāk mainīties.
Lielākā daļa virsrakstu joprojām koncentrējas uz tiem pašiem rādītājiem:
Lielāki modeļi.
Lielāki finansēšanas apjomi.
Vairāk GPU.
Ātrāka secināšana.
Masīvas apmācības klasteri, kas patērē milzīgas enerģijas daudzumus, lai uzbūvētu arvien jaudīgākas melnās kastes sistēmas.
Un jā, šīs lietas ir svarīgas.
Bet zem virsmas, cits jautājums kļūst neiespējami ignorējams:
Neviens tiešām nezina, no kurienes nāk liela daļa šī intelekta.
Un pat vēl svarīgāk:
Neviens nezina, kurš kļūst atbildīgs, kad šīs sistēmas neizdodas.
Šī atšķirība maina visu.
Jo AI uzvedas ļoti atšķirīgi, kad reālā pasaule atbildība ienāk vienādojumā.
Čats, kas rekomendē nepareizu filmu, ir nekaitīgs.
Valodas modelis, kas raksta vāju e-pasta projektu, ir neievērojams.
Bet AI sistēma, kas ietekmē apdrošināšanas apstiprinājumus, medicīniskās diagnostikas, juridisko pārbaudi, tirdzniecības sistēmas, autonomus aģentus, kiberdrošības operācijas vai uzņēmumu lēmumu pieņemšanu, pastāv pilnīgi citā ekonomiskā vidē.
Pēkšņi vienīgais precizitāte nav pietiekama.
Tagad kompānijām nepieciešama atbildība.
Tagad iestādēm nepieciešama izskaidrojamība.
Tagad regulatori nepieciešami auditācijas pēdas.
Tagad uzņēmumiem nepieciešama izcelsme.
Un jo dziļāk AI integrējas sabiedrībā, jo vērtīgākas šīs lietas kļūst.
Tas ir pagrieziens, ko es domāju, ka lielākā daļa tirgus nenovērtē.
Jo AI ekonomika sākotnēji tika veidota ap izņemšanu.
Nākamā fāze varētu būt veidota ap izsekojamību.
Mūsdienu AI slēptā vājuma
Lielākā daļa mūsdienu AI sistēmu darbojas kā milzīgas kompresijas mašīnas.
Viņi absorbē neiedomājamas cilvēku zināšanu kvantitātes no visa interneta:
Raksti.
Forumi.
Pētniecības dokumenti.
Grāmatas.
Video.
Kopienas.
Tehniskās diskusijas.
Radošais darbs.
Specializēta ekspertīze.
Tad sistēma saspiest visu šo informāciju apmācības svērumos, kas spēj radīt noderīgus rezultātus vēlāk.
Process no ārpuses šķiet maģisks.
Bet kaut kas svarīgs pazūd kompresijas laikā:
Izcelsme.
Ieguldītāji zem intelekta slāņa lēnām kļūst neredzami.
Sistēma atceras zināšanas, kamēr aizmirst, no kurienes tās nākušas.
Šis aizmirstības process radīja milzīgu efektivitāti.
Bet tas arī izveidoja pieaugošu strukturālo vājumu.
Jo necaurredzamība mērogojas ārkārtīgi labi — līdz atbildība parādās.
Un atbildība tagad ienāk AI no katra virziena vienlaicīgi.
Jūs jau varat redzēt spiedienu, kas pieaug visā nozarē.
Autortiesību prasības.
Licencēšanas strīdi.
Uzņēmumu atbilstības jautājumi.
Regulējošā pārbaude.
Jautājumi ap sintētiskajiem apmācības cikliem, kur AI arvien vairāk patērē AI radītu materiālu, ko izveidoja iepriekšējās AI sistēmas.
Bažas par dezinformāciju.
Bažas par halucinācijām.
Bažas par neapstiprināmām rekomendācijām augsta riska nozarēs.
Neviens no šiem jautājumiem šķiet nāvējošs individuāli.
Bet kopumā tās norāda uz to pašu pamatproblēmu:
Nozare agresīvi optimizēja intelekta radīšanai, vienlaikus pievēršot daudz mazāk uzmanības intelekta pārbaudei.
Šī nelīdzsvarotība kļūst bīstama, kad AI pārstāj būt eksperimentāla infrastruktūra un sāk kļūt par kritisku infrastruktūru.
Un mēs virzāmies uz šo pāreju daudz ātrāk, nekā daudzi cilvēki apzinās.
Kāpēc OpenLedger jūtas citādi
Tieši tas ir daļēji iemesls, kāpēc OpenLedger piesaistīja manu uzmanību.
Nevis tāpēc, ka tā izmanto frāzi “decentralizēts AI.”
Godīgi sakot, šis termins jau kļūst atšķaidīts no pārmērīgas lietošanas.
Katrs projekts tagad apgalvo, ka izstrādā decentralizētus intelekta sistēmas.
Lielākā daļa vienkārši pārpakot mākoņu infrastruktūru, skaitļošanas koordināciju vai tokenizētas tirgus vietas ar AI zīmolu, kas pievienots viņiem.
Kas padara OpenLedger interesantāku, ir tas, ka tā fokuss jūtas šaurāks — un, iespējams, daudz svarīgāks ilgtermiņā.
Atribūcija.
Ne tikai intelekta radīšana.
Izsekošana, no kurienes intelekts faktiski nāca.
Pirmajā skatījumā šī atšķirība izklausās tehniska.
Tas nav.
Tas maina visu ekonomisko struktūru zem AI.
Ideja aiz OpenLedger Datanets ietvara ir pamatā par ieguldījumu izsekošanu visā AI izmantošanas ciklā.
Tādējādi, nevis izturot datu ieguldītājus kā iznīcināmu izejvielu, sistēma cenšas saglabāt redzamas ekonomiskās attiecības starp ieguldītājiem un lejupvērstajām modeļa izejām.
Tā nozīmē, ka tīkls vienkārši neuzsūc informāciju vienreiz un neatceras pēdas uz visiem laikiem.
Ieguldījums paliek ekonomiski redzams laikposmā.
Tas izklausās smalki.
Bet ekonomiski tas varētu būt milzīgs.
Jo tas maina stimulu.
Pašreizējā AI ekonomika atlīdzina krāšanu
Pašlaik lielākā daļa AI sistēmu atlīdzina akumulāciju.
Savāc vairāk datu.
Iegūstiet vairāk datu kopu.
Slēpiet vairāk patentētu informāciju.
Veidojiet lielākas slēgtas ekosistēmas.
Aizsargā apmācības cauruļvadu.
Aizsargā moatu.
Pieņēmums, kas ir modernās AI ekonomikas pamatā, ir tas, ka noslēpums vairo konkurētspēju.
Un, lai būtu godīgi, šis pieņēmums ļoti labi darbojās mašīnmācīšanās agrīnās mērogošanas fāzē.
Bet parādās pieaugošs kompromiss starp noslēpumu un uzticību.
Jo spēcīgāks kļūst AI, jo neērtākas iestādēm kļūst neredzamas sistēmas, kas pieņem nozīmīgus lēmumus.
Šī diskomforta sajūta ir svarīga.
Īpaši regulētajās nozarēs.
Slimnīca nevar ērti ieviest necaurredzamas medicīniskās loģikas sistēmas, kas apmācītas uz neapstiprinātiem interneta materiāliem.
Finanšu iestādēm nav iespējas neierobežoti paļauties uz melnās kastes rekomendāciju sistēmām, kas ietekmē kapitāla sadali.
Juridiskā infrastruktūra nevar pilnībā paļauties uz intelekta sistēmām bez tīras auditējamības.
Beigās operatīvie jautājumi kļūst neizbēgami:
Kur radās šī rekomendācija?
Kuras datu kopas ietekmēja šo rezultātu?
Vai lēmumu ceļš var tikt rekonstruēts?
Kurš verificēja apmācības izejas?
Kas notiks, ja modelis radīs kaitīgas rekomendācijas?
Kas nes atbildību?
Šie jautājumi pārstāj būt filozofiski, kad ir iesaistītas lielas naudas summas.
Tajā brīdī, necaurredzamība pārstāj izskatīties kā inovatīva un sāk izskatīties riskanta.
Un risks maina tirgus uzvedību ātrāk nekā ideoloģija jebkad.
Caurskatāmība kļūst ekonomiski vērtīga
Šī ir daļa, ko daudzi cilvēki nesaprot.
Caurskatāmība nenotiek svarīga, jo tirgi pēkšņi kļūst ētiski.
Tirgi reti pārvietojas tikai morāles dēļ.
Tie pārvietojas, jo stimuli mainās.
Vēsturiski, caurskatāmība kļūst vērtīga, kad slēptā sarežģītība sāk radīt sistēmisku risku.
Finanses izgāja cauri tam.
Banku infrastruktūra reiz ļoti paļāvās uz necaurredzamību. Sarežģītas sistēmas ģenerēja milzīgus peļņas daļēji tāpēc, ka ļoti maz cilvēku varēja pilnībā pārbaudīt, kas notiek zemūdens.
Tad regulējošais spiediens pieauga.
Ziņošanas standarti kļuva stingrāki.
Auditējamība kļuva obligāta.
Caurskatāmība attīstījās no ētiskas sarunas uz ekonomisku prasību.
Uzticība kļuva par infrastruktūru.
Es domāju, ka AI varētu tuvināties līdzīgai pārejai.
Ne uzreiz.
Ne viss uzreiz.
Bet pakāpeniski.
Jo dziļāk AI iekļaujas kritiskajās sistēmās, jo mazāk tolerances iestādēm būs pret neapstiprināmām intelekta caurulēm.
Tas nozīmē, ka atribūcija pati par sevi var galu galā kļūt monetizējama.
Un tieši tur OpenLedger kļūst stratēģiski interesants.
Jo projekts ne tikai jautā:
“Kā mēs varam radīt vairāk intelekta?”
Tas jautā:
“Kā mēs varam saglabāt uzticību intelekta radīšanai mērogā?”
Tas ir daudz grūtāks uzdevums.
Bet tas var arī kļūt par vērtīgāko.
Grūtā realitāte, par kuru neviens negrib runāt
Tomēr neko no tā nevajadzētu romantizēt.
Atribūcijas sistēmas konceptuāli izklausās eleganti.
To izveide mērogā ir ārkārtīgi grūta.
Stimulu sistēmas dabiski pievelk manipulācijas.
Zemas kvalitātes ieguldītāji piepilda atlīdzības mehānismus.
Parādās surogātpasta dalība.
Koordinēta lauksaimniecība parādās.
Reputācijas sistēmas tiek izmantotas.
Kripto vēsture jau atkārtoti pierādījusi šos vājuma aspektus neskaitāmās ekosistēmās.
Un tur ir vēl viena neērta realitāte zem visa tā:
Daudzas kompānijas patiesībā nevēlas caurskatāmību.
Viņi vēlas kontroli.
Tās nav vienmēr tas pats.
Pilnīgi caurskatāma intelekta ekonomika varētu samazināt noteiktas konkurētspējas priekšrocības, no kurām dominējošās firmas pašlaik gūst labumu.
Lielas organizācijas bieži dod priekšroku sistēmām, kuras tās var privāti optimizēt, nevis publiski izskaidrot.
Tas nozīmē, ka projekti, kas koncentrējas uz atribūciju, ne tikai konkurē tehniski.
Viņi konkurē filozofiski pret esošo AI ekonomikas struktūru pašu.
Tas ir daudz grūtāk.
Jo stimulu maiņa vienmēr ir grūtāka nekā tehnoloģijas maiņa.
AI nozare varētu būt nepareizi novērtējusi nākamo desmitgadi
Pašlaik lielākā daļa tirgus joprojām uzvedas tā, it kā AI nākotne pieder pilnīgi tam, kurš vispirms uzbūvē vislielākos modeļus.
Un varbūt tas paliks patiesi kādu laiku.
Bet es arvien vairāk aizdomājos, ka nākamā lielā konkurētspēja nenāks tikai no intelekta radīšanas.
Tas var nākt no uzticamas intelekta infrastruktūras.
Sistēmas, kas spēj pierādīt:
Kur zināšanas radās.
Kā informācija tika verificēta.
Kuri ieguldītāji ietekmēja izejas.
Kā loģikas ceļi attīstījās.
Kā atbildība var tikt saglabāta, nepārtraucot mērogojamību.
Tas ir pilnīgi atšķirīgs ekonomiskais ietvars nekā tas, kas dominē šodienas AI sarunā.
Un, pats svarīgākais, tas vairāk dabiski saskan ar to, kā iestādes uzvedas zem spiediena.
Jo, kad atbildība ienāk tirgū, uzticība vairs nav opcija.
Tā kļūst par operatīvo infrastruktūru.
Šī pāreja maina visu.
Kompānijas, kas optimizējušas tikai izņemšanai, var atklāt, ka izņemšana vienatnē nespēj mērogoties politiski, juridiski vai institucionāli mūžīgi.
Tikmēr sistēmas, kas izstrādātas ap atribūciju, caurskatāmību un ieguldījumu izsekojamību, var kļūt arvien vērtīgākas tieši tāpēc, ka tās samazina nenoteiktību.
Nevis tāpēc, ka viņi ir morāli pārāki.
Jo tie ir ekonomiski drošāki.
Un vēsturiski drošība kļūst ārkārtīgi vērtīga, kad tirgi nobriest.
Varbūt AI nākotne nav par īpašumtiesībām
Varbūt dziļākais pārmaiņas, kas notiek zem AI, nav tehnoloģisks vispār.
Varbūt tā ir ekonomika.
Gadu gaitā dominējošais pieņēmums bija tas, ka intelekts kļūst vērtīgāks, jo vairāk centralizēts un slēpts tas kļūst.
Bet ko, ja pretējais galu galā notiek?
Ko, ja sistēmas, kas izdzīvo ilgtermiņā, nav tās, kas slēpj visvairāk informācijas, bet tās, kas spēj pārbaudīt intelekta izcelsmi, neiznīcinot operatīvās darbības procesā?
Ko, ja atribūcija kļūst par infrastruktūru?
Ko, ja caurskatāmība kļūst par konkurētspēju?
Ko, ja uzticība pati par sevi kļūst par vienu no vērtīgākajām aktīviem mākslīgajā intelektā?
Šī iespēja joprojām izskatās par zemu novērtēta.
Lielākā daļa cilvēku joprojām koncentrējas uz redzamo AI sacensību slāni:
Modeļu izlaidumi.
Finansēšanas kārtas.
Salīdzinošie rādītāji.
Veiktspējas rādītāji.
Bet zem visa tā, cits tirgus jau var veidoties klusi:
Tirgus verifikācijas intelektam.
Un, ja šis tirgus aug tā, kā es aizdomājos, tad nākotnes AI uzvarētāji var izskatīties ļoti citādāk nekā uzņēmumi, uz kuriem lielākā daļa cilvēku šodien liek likmes.
