ceva mi s-a părut ciudat când l-am văzut rulat pentru prima dată.....
nu ciudat rău. ciudat într-un mod pe care nu l-am putut numi imediat. Am configurat un flux de lucru. cercetare, rezumare, execuție, raportare. destul de simplu. apasă start. m-am îndepărtat.
m-am întors după douăzeci de minute și s-a terminat.
iar primul meu gând nu a fost wow, cât de repede a fost.
a fost..... am luat eu acea decizie?
stau cu întrebarea asta de atunci. pentru că sună simplu până în momentul în care încerci cu adevărat să răspunzi.
tehnic, da. Eu am proiectat fluxul de lucru. Am setat parametrii. Am ales ce va căuta agentul, cum va evalua, ce va face cu ceea ce a găsit.
dar nu am fost acolo când a fost rulat. Nu am fost în cameră când s-a făcut apelul real. evaluarea specifică în momentul specific cu datele specifice disponibile în acel exact moment.
acela era agentul.
iar agentul și eu nu suntem același lucru.
obișnuiam să iau decizii.
acum stabilesc condiții și urmăresc cum se iau deciziile.
și tot mă gândesc..... asta e o chestie diferită. sună ca o distincție mică. nu este.
pentru că iată ce înseamnă de fapt automatizarea odată ce depășește confortul.
când un om ia o decizie, există un proces atașat acesteia chiar dacă acel proces este invizibil. ceva este cântărit. ceva este prioritizat. ceva este observat și ceva este ratat. și dacă întrebi după aceea — de ce ai decis asta — există un răspuns undeva. poate incomplet. poate greșit în retrospectivă. dar există o urmă de raționament care aparține unei persoane.
când un agent ia o decizie într-un flux de lucru la 3 dimineața în timp ce tu dormi.....
decizia s-a întâmplat. ieșirea există. iar întrebarea de ce a mers în acea direcție specifică în acel moment specific cu acele inputuri specifice este.....
complicat.
nu imposibil de răspuns. dar nu simplu nici.
și în majoritatea sistemelor care există acum.....
în mare parte fără răspuns.
tot mă gândesc la unde devine serios și devine serios repede odată ce te îndepărtezi de sarcini simple.
rezumatele de cercetare sunt un lucru. agentul ratează ceva, tu îl observi, faci ajustări.
dar agenții se mută în execuția financiară. în coordonarea on-chain. în operațiuni cross-protocol unde deciziile se compun și viteza face revizuirea umană aproape imposibilă în timp real.
în acel moment, întrebarea pe care mi-am pus-o stând în fața acelui flux de lucru complet se oprește din a fi filosofică.
devine practic.
agentul a rulat. s-a întâmplat ceva. ceva a mers diferit decât era de așteptat. iar urmele de audit între intenția mea inițială și ceea ce a fost de fapt executat sunt.....
ce exact.
asta nu ar trebui să se simtă ca o necunoscută acceptabilă. dar în majoritatea peisajului agenților de acum. practic este.
aici este locul unde @OpenLedger îmi tot apare în minte când mă gândesc la OctoClaw în mod specific.....
nu pentru că încerc să le conectez. mai degrabă pentru că OctoClaw stă deasupra unei infrastructuri care a fost construită exact cu această întrebare în minte.
fiecare acțiune a agentului este trasabilă. fiecare execuție este ancorată la ce date l-au alimentat, ce logică a rulat, care erau condițiile în momentul în care a avut loc decizia. un registru on-chain verificabil al a ceea ce a făcut de fapt agentul.
automatizarea fără atribuire este doar delegare fără responsabilitate.
și am trăit destul de mult în sisteme care deleagă fără responsabilitate ca să știu ce se întâmplă când ceva merge prost.
nimeni nu știe a cui decizie a fost.
nimeni nu poate urmări raționamentul.
nimeni nu este responsabil.
iar persoana care a stabilit condițiile de la bun început rămâne cu o ieșire pe care nu o poate explica pe deplin.
tot mă gândesc la cum am gestionat deciziile delegate
în fiecare alt domeniu, oamenii au construit sisteme în jurul.....
legea are precedent. o urmă de raționament care poate fi examinată și contestată.
finanțele au cerințe de audit. o urme de hârtie care există tocmai pentru că cineva a înțeles că deciziile delegate trebuie să fie reconstructibile.
medicina are consimțământ informat. un proces care există pentru că am decis cu mult timp în urmă că ai dreptul să înțelegi ce se face în numele tău chiar și atunci când experții sunt cei care o fac.
fiecare domeniu în care deciziile umane au început să fie delegate altor actori..... a construit în cele din urmă infrastructură pentru a face acele decizii delegate lizibile.
nu pentru că actorii erau neîncrezători, neapărat.
pentru că lizibilitatea este ceea ce face ca responsabilitatea să fie posibilă.
iar responsabilitatea este ceea ce face ca încrederea să fie sustenabilă în timp.
agenții AI sunt cea mai mare delegare a autorității de decizie din istoria umană.
iar majoritatea dintre ei funcționează fără acea infrastructură.
OctoClaw mi se pare diferit în mod specific din cauza pe ce este construit.
alege-ți furnizorul. alege-ți modelul. stabilește stratul de inteligență care alimentează deciziile agentului tău.
această încadrare — stabilește stratul de inteligență — face ceva mai mult decât poziționarea produsului.
este recunoașterea faptului că inteligența care rulează agentul tău este un lucru specific. un lucru trasabil. ceva cu un origină și o compunere și o logică de decizie care, în principiu, poate fi examinată.
asta nu este cum se prezintă majoritatea agenților.
cei mai mulți agenți se prezintă ca..... doar agentul. o cutie neagră care primește instrucțiuni și produce rezultate, iar spațiul dintre ele nu este preocuparea ta.
spațiul dintre ar trebui să fie cu siguranță preocuparea ta.
vreau să fiu sincer cu ceea ce nu știu aici.
OctoClaw este nou. foarte nou. lansat pe 6 mai. imaginea completă a modului în care performează la scară, cum se menține stratul de atribuire sub utilizare reală, dacă execuția agentului verificabil devine ceva ce utilizatorii se îngrijesc de fapt sau doar ceva ce dezvoltatorii apreciază în teorie.....
nu știu încă.
și există o versiune a asta unde agenții autonomi devin atât de normalizați atât de repede încât întrebarea responsabilității nu este niciodată răspunsă pentru că piața a trecut mai departe înainte ca cineva să se oprească să o întrebe.
asta se întâmplă. în special în crypto. mai ales cu narațiuni atât de puternice.
dar iată lucrul la care mă întorc mereu.....
am configurat acel flux de lucru. L-am urmărit cum rulează. M-am întors la o ieșire completă și am simțit ceva ciudat.
nu pentru că ceva a mers prost.
pentru că ceva a mers bine și mi-am dat seama că nu eram complet sigur cum.
această senzație va deveni mai comună. nu mai puțin. pe măsură ce agenții devin mai rapizi, mai capabili, mai înrădăcinați în deciziile care contează cu adevărat pentru oameni.
și întrebarea pe care mi-am pus-o stând în fața acelui ecran.....
am luat acea decizie.....
este o întrebare pe care mulți mai mulți oameni vor începe să o pună.
infrastructura care poate răspunde onest este construită chiar acum.
în liniște. în mare parte neobservat. înainte ca momentul să vină când toată lumea își va dori să fi fost construit mai devreme.
nu știu dacă acel moment este la șase luni distanță sau la trei ani.
dar știu că odată ce agenții iau decizii care au consecințe reale.....
"încrede-te în ieșire" nu mai este suficient ca răspuns 🚀