Nu, es sēdēju pie sava galda, burtiski tikai skatoties uz ekrāna vakar pēcpusdienā, mēģinot saprast, kāpēc OctoClaw Cloud Config man deva tādu dīvainu sajūtu. Un mans bērns ienāca un izlēja sulu uz grīdas, tāpēc man bija jāapstājas. Bet es turpināju domāt par to, kamēr tīrīju haosu.
Tas, ko mans čoms man iepriekš nosūtīja, bija pareizi. Patiešām izskatās kā AWS panelis. Es skatījos uz to un domāju, jā, šis izskatās kā digitalocean panelis ar papildu soļiem.
Bet tad es atgriezos pie tā vēlāk, kad māja bija klusa. Un es paskatījos uz konfigurācijas sadaļu, ko es turpināju ignorēt. Vide. Atļauja. Izpilde. Resurss.
Un man uznāca cita doma.
Mēs visi esam tik aizņemti, būvējot šos aģentus, lai pelnītu naudu un tirgotos uz ķēdes. Mēs iedomājamies bezgalīgus aģentus, kas darbojas mūžīgi. Bet neviens patiesībā nerunā par "Oh Shit" pogu.
Ja es šodien izvietoju aģentu un tas sāk iztukšot likviditāti, jo tas ir halucinējis darījumu... kā es to apturēšu? Vai es nogalināšu visu darba plūsmu? Vai es atceltu maku? Tā kā AI šobrīd darbojas, ja loģika ir iebūvēta aģentā, tās labošana nozīmē pārrakstīt visu.
Tieši tur Cloud Config man patiešām ir svarīgs.
Tas nav tikai par bažām kā to saka izstrādātāji. Tas ir par kontroli. Konkrēti, kontroli ārpus aģenta pašas apziņas. Vides, Atļauju, Izpildes, Resursu slāņi? Tas ir mans ārkārtas izejas ceļš. Tas ir mans slēdzis, lai izslēgtu šo konkrēto darba plūsmu.
Lasot OctoClaw, es sapratu, ka viņi izveido sistēmu, kur aģents ir tikai dzinējs. Konfigurācijas slānis ir kabīne. Un pilots (es vai DAO) nav iekšā aģentā. Pilots skatās uz informācijas paneli no ārpuses.
Es domāju, ka tas ir patiesībā svarīgāk nekā paši AI modeļi. Jo ražošanas mēroga AI neizdosies. Tas nav jautājums, vai, bet kad. Kad tas neizdosies, es nevēlos meklēt kodā, lai atrastu kļūdu. Es gribu pārvērst slēdzi OctoClaw, kas saka apstāt visus aģentus, kas izmanto DataNet X, vai apturēt izpildi šai konkrētai darba plūsmai, līdz es to apstiprinu.
Tas arī liek man domāt par to, kas notiek, kad es gribu atjaunināt atļaujas. Tradicionālā sistēmā man vajadzētu atkārtoti izvietot aģentu. Bet, ja atļaujas ir tikai slānis konfigurācijā... es varu tās mainīt, kamēr aģents darbojas. Tas ir traki.
Un šeit es redzu īsto risku OpenLedger. Tirgus aģentu izvietošanai varbūt nav par gudrākiem aģentiem. Tas būs par drošākiem aģentiem, kurus vieglāk kontrolēt. Lietotājs, kurš var pārvaldīt 100 aģentus, nezaudējot miegu, uzvarēs pret lietotāju, kuram ir 100 aģenti uz lokālajām mašīnām bez uzraudzības.
Tas ir cilvēka realitātes pārbaude. Mēs visi esam nobijušies pilnībā automatizēt lietas. OctoClaw Cloud Config šķiet kā tilts, kas mēģina mani mazāk baidīt.
Jebkurā gadījumā, tas ir tikai mans divu centu viedoklis pēc tā izlasīšanas vēlu vakarā. Vēl joprojām mēģinu to saprast. Bet "ārējās kontroles" aspekts ir tas, kas man patiešām palika prātā.