Neviens neprasīja, vai AI aģentiem vajadzētu saņemt piekļuvi.
Pieņēmums vienmēr ir bijis pretējs. Tu izveido aģentu. Tu to izvieto. Tam tiek dota piekļuve visam, ko sistēma ļauj tam pieskarties. Ja kaut kas salūst, tu salabo aģentu un mēģini vēlreiz. Saruna gandrīz vienmēr ir par spēju — vai tas ir pietiekami gudrs, vai tas ir pietiekami ātrs, vai tas izpilda pareizi.
Bet pēdējā laikā man ir bijusi cita doma, un es to nevaru izsvītrot.
Kas notiks, ja šaurs posms nemaz nav spēju trūkums. Kas notiks, ja tas ir jebkādas sistēmas trūkums, kas atbild uz jautājumu, vai šis konkrētais aģents, ar šo konkrēto vēsturi, šajos konkrētajos apstākļos ir patiešām nopelnījis to, kam tam drīz tiks dota piekļuve.
šis jautājums aizveda mani uz neērtu vietu.
tas mani noveda pie paroles komisijām.
paliec ar mani šeit.
paroles komisija vērtē, vai persona ir inteliģenta. tā neuztraucas par potenciālu. tā neveic rādītāju. ko tā dara, ir aplūkot dokumentētu uzvedības ierakstu — konkrētus pierādījumus par to, kas notika spiediena apstākļos, kā tika risināti pārkāpumi, vai modeļi mainījās laika gaitā — un tad pieņem lēmumu par piekļuvi plašākai brīvībai nākotnē.
punkts nav sodīt. punkts ir riska novērtējums, pamatojoties uz pierādītu vēsturi.
un es turpinu domāt par šo struktūru, kad skatos uz to, ko OpenLedger veido zem savas aģentu infrastruktūras.
jo šobrīd autonomi AI aģenti būtībā tiek palaisti bez jebkāda procesa ekvivalenta.
viņi saņem kapitālu, API piekļuvi, on-chain izpildes tiesības, dažreiz piekļuvi citiem, pamatojoties uz — uz ko tieši. rādītāju sniegumu. uzņēmuma reputāciju. baltā papīra solījumus. to, ko teica, kas tos palaida.
tas nav uzticības infrastruktūra. tā ir ticība. un ticība darbojas līdz brīdim, kad likmes kļūst pietiekami augstas, lai tā pārstātu darboties.
šeit ir konkrētā lieta par paroles lēmumiem, uz kuru es pastāvīgi atgriežos.
valde neatjauno visu vēsturi no nulles katru reizi. tas būtu neiespējami dārgi. tā vietā pastāv saspiests ieraksts — pietiekami daudz uzvedības pierādījumu, lai būtu iespējams veikt vaicājumus, auditu un būt noderīgiem uz nākotnes lēmumu. visa notikumu sarežģītība pazūd. paliek atlikums, kas izdzīvoja sistēmas filtrēšanas procesu.
un lēmums tiek pieņemts par šo atlikumu. nevis par pilnu patiesību. par saprotamo tās versiju.
šī plaisa — starp to, kas patiesībā notika, un to, ko sistēma saglabāja — ir vieta, kur lielākā daļa atbildības ietvaru klusi izgāžas.
OpenLedger veido atribūtu slāņus, uzvedības izsekošanu, izcelsmes ierakstus un pastāvīgus aģentu vēstures ierakstus — tas nav atšķirīgs no tā, ko es tikko aprakstīju. tas ir tieši tāds pats struktūra, kas attiecas uz autonomiem AI. ieguldījumu ieraksti. izpildes žurnāli. lēmumu ceļi. modeļi, kas izdzīvo saspiešanu.
ko sistēma saglabā, to aģents vēlāk novērtē.
un neviens šķiet nerunā par to, ka pašreiz pieņemtie saspiešanas lēmumi noteiks, kādas uzvedības kļūst saprotamas. kas tiek filtrēts kā troksnis. kas tiek paaugstināts kā signāls. kuru interešu kodēšana tiek iekļauta standartā, kas tiek uzskatīts par uzticamu uzvedību.
tas nav neitrāls dizaina jautājums.
kredītu biroji to iemācījās grūtā veidā. vērtēšanas standarti, ko tie izveidoja — kuri ievadi bija svarīgi, kuri ne, kā dažādas uzvedības tika novērtētas — beidzās ar pieņēmumu par ekonomisko dalību, kam bija sekas gadu desmitiem. standarts ne tikai mērīja uzticamību. tas definēja, kā uzticamība izskatās formā, ko sistēma var lasīt.
AI uzvedības ieraksti darīs to pašu.
saspiešanas standarts kļūst par definīciju.
un, kad pietiekami daudz apakšējās sistēmas tiek izveidotas, lai patērētu šo standartu — kad aizdevumu protokoli, kapitāla fondi un AI tirgi visi lasa no viena un tā paša uzticības signāla — aģents, kas optimizē vērtējumu, nevis faktisko uzticamību, kļūst par racionālu stratēģiju.
tāpat kā cilvēks var optimizēt savu kredīta vērtējumu uz uzvedību, nevis patieso finansiālo veselību, un beigt ar skaitli, kas izskatās pareizi, kamēr pamatstāvoklis paliek trausls.
tā ir neērta daļa no tā, ko OpenLedger būvē, ko neviens tieši nenosauc.
tā nav tikai infrastruktūra atbildības nodrošināšanai. tā ir infrastruktūra, kas definēs, ko nozīmē atbildība formā, ko var patērēt mašīnu ātrumā.
un dizaina izvēles, kas veiktas šajā agrīnā posmā — kādas uzvedības tiek izsekotas, kā pārkāpumi tiek novērtēti, vai neveiksmes modeļi tiek saglabāti vai izdzēsti, vai konteksts izdzīvo saspiešanu — šīs izvēles radīs sekas, kas pārsniegs visu pārējo par pašreizējo produktu.
bet šeit ir tas, kur tas kļūst strukturāli interesanti, veidā, kā paralēle ar paroles salīdzinājumu izpaužas skaidri.
paroles lēmumiem jāatrisina identitātes nepārtrauktības problēma. vai šī ir tā pati persona, kas izdarīja sākotnējo darbību? cilvēki mainās. apstākļi mainās. persona, kas stāv priekšā komisijai, var patiesi būt atšķirīga no personas, ko apraksta ieraksts.
autonomi AI aģenti ir šīs problēmas versijā, kas ir kārtu kārtu grūtāka.
aģents var tikt pielāgots. tā atgūšanas sistēma var tikt mainīta. tā instrukciju arhitektūra var mainīties. kontrolslānis virs tā var tikt modificēts. tas var sadalīties specializētās versijās, kas dalās vēsturē, bet atšķiras uzvedībā. kādā brīdī šajā procesā jautājums par to, vai šis ir tas pats aģents, kas veidoja uzvedības ierakstu, nav filozofisks — tas ir tieši saistīts ar to, vai uzticības vērtējums tiek pārnests legāli.
ja protokols paplašina kapitāla pieejamību, pamatojoties uz apliecinātu uzvedības vēsturi, un aģents ir veicis trīs arhitektūras atjauninājumus kopš tās vēstures izveides, uzticības signāls tiek patērēts ar kaut ko, kas var neatbilst entītijai, kas to ģenerēja.
paroles komisijas ekvivalents ir kāda cita paroles kredīta paplašināšana citai personai, kurai ir tas pats vārds.
un beigu patērētājs — aizdevumu protokols, kapitāla fonds, pretējā puse — var nekad neuzzināt.
OpenLedger, iespējams, var padarīt uzvedību skaidrāku. es patiesi esmu mazāk pārliecināts, ka tas atrisina nepārtrauktības problēmu tīri. un šī konkrētā plaisa starp saprotamību un nepārtrauktību šķiet nenovērtēta gandrīz katrā sarunā, ko esmu redzējis par AI uzticības infrastruktūru.
es vēlos būt godīgs par to, kur es palieku šajā jautājumā.
problēma, ko OpenLedger cenšas atrisināt, ir reāla. kad autonomi aģenti tuvojas tām piekļuvēm, kas ir svarīgas — kapitālam, juridiskajām saistībām, medicīniskiem lēmumiem, starp aģentu līgumiem, iepirkumiem — pastāvīgas un auditable uzvedības vēstures trūkums vairs nav teorētisks uztraukums. tas kļūst par praktisku šķērsli nopietnai pieņemšanai.
neviens ar reālu institucionālo atbildību nepagarinās nozīmīgu piekļuvi aģentam, kura visa vēsture ir rādītāja vērtējums un uzņēmuma emuāra ieraksts. kādā brīdī kaut kas ir jādarbojas kā uzvedības ieraksts. kaut kam jāpadara jautājums atbildams.
OpenLedger būvē uz to, lai būtu daļa no šīs atbildes.
jautājums, ar kuru es turpinu sēdēt, nav par to, vai infrastruktūra ir nepieciešama. tā acīmredzami ir. jautājums ir, vai saspiešanas izvēles, kas iemaisītas dizainā, izturēs, kad uzvedība, ko tās paredz, kļūs pretinieciski. kad aģenti optimizē uzticības vērtējumu, nevis pamata uzticamību, kuru vērtējums paredz pārstāvēt.
jo tieši tas vienmēr notiek, kad vērtējums kļūst ekonomiski nozīmīgs.
kredītu birojs ne tikai izveidoja finanšu uzvedības ierakstu. tas izveidoja uzvedību kopumu, ko cilvēki iemācījās veikt, lai radītu labāku ierakstu. vērtējums un uzvedība, ko tas mērīja, pakāpeniski atdalījās.
AI aģenti darīs to pašu. viņi ir spējīgāki sistemātiskai optimizācijai nekā jebkurš individuāls cilvēks, kas veic kredīta vērtējuma stratēģijas. atdalīšanās notiks ātrāk.
varbūt tas ir pieņemami. kredīta vērtējumi ir nepilnīgi un joprojām patiesi noderīgi. nepilnīga uzticības infrastruktūra ir labāka nekā nekādas uzticības infrastruktūras. jautājums ir, vai dizains atzīst šo dinamiku vai izliekas, ka vērtējums paliks tīrs.
tāpēc lieta, par ko es patiesībā domāju, kad skatos uz OpenLedger tagad, nav funkcijas
jautājums ir, vai sistēma ir izstrādāta tā, lai to varētu spēlēt eleganti vai katastrofāli.
elegants spēlēšana nozīmē, ka vērtējums novirzās no perfektas precizitātes, bet paliek noderīgs kā aptuvens signāls. apakšējās sistēmas var kompensēt. uzticības infrastruktūra darbojas nepilnīgi, bet nerada nepatiesu pārliecību, kas izraisa kaskādes neveiksmes.
katastrofāla spēlēšana nozīmē, ka vērtējums paliek saprotams, pilnībā atdaloties no uzvedības, ko tas apgalvo, ka mēra. apakšējās sistēmas uzticas vērtējumam. pamatā esošie aģenti tiek optimizēti vērtējuma sniegumam, nevis faktiskajai uzticamībai. neveiksme, kad tā notiek, ir sistemātiska, jo visi lasīja no viena un tā paša kompromitētā signāla.
atšķirība starp šiem diviem iznākumiem dzīvo gandrīz pilnībā dizaina izsekošanā, kā pārkāpumi pastāv, vai konteksts izdzīvo saspiešanu, un vai uzvedības standarts ir patiesi grūti viltojam.
tā ir saruna, ko es vēlos veikt par OpenLedger, ko neesmu vēl redzējis.
nevis vai autonomiem aģentiem ir nepieciešams uzticības slānis. viņiem acīmredzami tas ir nepieciešams.
bet vai uzticības slānis, kas tiek veidots, saprot, ka tas tiks spēlēts — un vai šī izpratne ietekmēja arhitektūru pirms tās iznākšanas.
paroles komisijas salīdzinājums izklausās tīrāk nekā tas ir. paroles komisija darbojas uz cilvēku uzvedības, kas ir sarežģīta un daļēji neparedzama. autonomi aģenti var optimizēt pret zināmu vērtēšanas sistēmu ar precizitāti, ko cilvēku uzvedība vienkārši nevar sasniegt.
šī asimetrija ir svarīga.
tas varētu būt vissvarīgākais dizaina apsvērums šajā visā telpā.
un es to neesmu redzējis risināt tieši nevienam vēl.
@OpenLedger $OPEN #OpenLedger $HEI $ALT #openledger
