Lielākā daļa cilvēku sāk pievērst uzmanību tikai tad, kad sistēma kļūst pietiekami laba, lai viņus pārsteigtu.
Modelis uzlabojas.
Atbildes kļūst skaidrākas.
Kļūdas kļūst grūtāk pamanāmas.
Un pēkšņi saruna pāriet uz sniegumu.
Bet gandrīz neviens nerunā par to daļu, kas pastāvēja pirms uzlabojumiem 👀
Jo sistēmas nepārveidojas pašas par sevi.
Vienmēr pastāv ieguldījumi, kas slēpjas zem galīgā rezultāta:
dati, atsauksmes, infrastruktūra, izmantošanas modeļi un neskaitāmi neredzami ievadi, kas palīdz veidot, kā sistēma uzvedas laika gaitā.
Dīvainā daļa ir tas, kas notiek pēc tam, kad sistēma kļūst veiksmīga ⚡
Uzlabojums paliek redzams.
Sistēmas radītā vērtība paliek redzama.
Izmantošana turpina pieaugt.
Bet ieguldījums, kas palīdzēja veidot uzlabojumu, pakāpeniski izzūd fonā.
Un godīgi sakot, tas var kļūt par vienu no lielākajām strukturālajām problēmām AI.
Jo mūsdienu sistēmas turpina gūt labumu no iepriekšējiem ieguldījumiem ilgi pēc apmācības beigām, tomēr saikne starp ieguldījumu un vērtību kļūst grūtāk izsekojama, kad rezultāts sāk izskatīties “normāls.”
Tas rada klusu nelīdzsvarotību.
Sistēma turpina radīt ekonomisko vērtību, atkārtoti izmantojot to, kamēr neredzamās kārtas, kas palīdzēja veidot inteliģenci, kļūst arvien grūtāk atpazīt 📈
Šeit ir ideja aiz @OpenLedger , kas sāk izskatīties svarīga.
Ne tikai tāpēc, ka tas koncentrējas uz AI infrastruktūru.
Bet tāpēc, ka tas pēta, vai ieguldījums var palikt saistīts ar vērtību, ko tas palīdzēja radīt, pat pēc tam, kad sistēma nonāk nepārtrauktā izmantošanā.
Tas pilnībā maina sarunu.
Jautājums vairs nav tikai:
“Kā sistēmas uzlabojas?”
Dziļāks jautājums kļūst par:
“Vai ieguldījums izzudīs, vienkārši tāpēc, ka sistēma kļuva pietiekami veiksmīga, lai noslēptu, no kurienes sākotnēji nāca uzlabojums?”
Un varbūt tas ir grūtākais izaicinājums, ko AI sistēmas galu galā būs jārisina.
@OpenLedger
