Acum, când facem cercetare de piață, cel mai mult ne sperie ca un AI să citeze, cu o față serioasă, date de acum jumătate de an. De aceea, multe aplicații au început să ofere modelelor posibilitatea de a căuta pe web, de a accesa interfețe de prețuri și diverse instrumente.
Dar aici există o contradicție, rar discutată, dar foarte relevantă: AI-ul chiar primește informații la zi, însă ce anume a căutat, ce instrument a apelat și dacă au existat modificări pe parcurs — utilizatorii, de cele mai multe ori, nu știu.
Modelul, în sine, poate fi verificat. Totuși, dacă căutarea externă și apelurile de instrumente rămân o „cutie neagră”, atunci lanțul respectiv verifică, de fapt, doar jumătate.
Părerea mea este că, în viitor, research Agent-urile nu ar trebui să demonstreze doar „această afirmație a fost generată de un anumit model”, ci ar trebui să conecteze cât mai mult posibil procesul de obținere a informației, alegerea instrumentelor și formarea concluziei.
LLM SDK-ul de la OpenGradient acceptă apeluri la instrumente și căutare nativă pe web și execută cererile pe o cale TEE. Funcția asta, pusă într-un flux de lucru real, se înțelege destul de ușor.
De exemplu, dacă îi cer unui research Agent să analizeze un anumit domeniu, mai întâi caută știrile de azi, apoi apelează un instrument de prețuri pentru a citi cotațiile și, la final, combină cele două seturi de informații pentru a ajunge la o evaluare. Cererea modelului, promptul de sistem și rezultatul final sunt verificate; în plus, pot fi returnate și înregistrările de plată, astfel încât cel puțin să se poată confirma că analiza a parcurs cu adevărat calea de raționament specificată.
Dezvoltatorii pot instala Python SDK, pot pregăti un wallet Base pentru deținerea $OPG și finaliza autorizarea, apoi pot deschide instrumente sau căutare web prin interfața `chat`. După ce rezultatul iese, se pot verifica și înregistrările relevante în browserul OpenGradient.
Acest tip de utilizare este destul de practic pentru rapoarte zilnice de piață, analize de contracte și monitorizare de risc, deoarece pentru aceste sarcini cea mai mare problemă nu este că AI-ul nu știe să vorbească, ci că poate spune lucruri cu un grad ridicat de încredere folosind date vechi.
Desigur, verificarea procesului de execuție nu înseamnă că conținutul paginii web este neapărat real. Rezultatele căutării pot fi greșite; sursele de tip „gunoi” nu devin automat fiabile doar pentru că au intrat în TEE, iar căutarea online adaugă și costuri de apel.
De aceea, nu o să o interpretez ca pe ideea că „cercetarea cu AI nu mai poate greși”. Este mai degrabă ca și cum împinge cu un pas înainte un proces de cercetare care, până acum, era complet invizibil: măcar că știm cu adevărat că a căutat și a apelat, și că nu a fost schimbat pe drumul de întoarcere.
$OPG @OpenGradient #OPG
Dar aici există o contradicție, rar discutată, dar foarte relevantă: AI-ul chiar primește informații la zi, însă ce anume a căutat, ce instrument a apelat și dacă au existat modificări pe parcurs — utilizatorii, de cele mai multe ori, nu știu.
Modelul, în sine, poate fi verificat. Totuși, dacă căutarea externă și apelurile de instrumente rămân o „cutie neagră”, atunci lanțul respectiv verifică, de fapt, doar jumătate.
Părerea mea este că, în viitor, research Agent-urile nu ar trebui să demonstreze doar „această afirmație a fost generată de un anumit model”, ci ar trebui să conecteze cât mai mult posibil procesul de obținere a informației, alegerea instrumentelor și formarea concluziei.
LLM SDK-ul de la OpenGradient acceptă apeluri la instrumente și căutare nativă pe web și execută cererile pe o cale TEE. Funcția asta, pusă într-un flux de lucru real, se înțelege destul de ușor.
De exemplu, dacă îi cer unui research Agent să analizeze un anumit domeniu, mai întâi caută știrile de azi, apoi apelează un instrument de prețuri pentru a citi cotațiile și, la final, combină cele două seturi de informații pentru a ajunge la o evaluare. Cererea modelului, promptul de sistem și rezultatul final sunt verificate; în plus, pot fi returnate și înregistrările de plată, astfel încât cel puțin să se poată confirma că analiza a parcurs cu adevărat calea de raționament specificată.
Dezvoltatorii pot instala Python SDK, pot pregăti un wallet Base pentru deținerea $OPG și finaliza autorizarea, apoi pot deschide instrumente sau căutare web prin interfața `chat`. După ce rezultatul iese, se pot verifica și înregistrările relevante în browserul OpenGradient.
Acest tip de utilizare este destul de practic pentru rapoarte zilnice de piață, analize de contracte și monitorizare de risc, deoarece pentru aceste sarcini cea mai mare problemă nu este că AI-ul nu știe să vorbească, ci că poate spune lucruri cu un grad ridicat de încredere folosind date vechi.
Desigur, verificarea procesului de execuție nu înseamnă că conținutul paginii web este neapărat real. Rezultatele căutării pot fi greșite; sursele de tip „gunoi” nu devin automat fiabile doar pentru că au intrat în TEE, iar căutarea online adaugă și costuri de apel.
De aceea, nu o să o interpretez ca pe ideea că „cercetarea cu AI nu mai poate greși”. Este mai degrabă ca și cum împinge cu un pas înainte un proces de cercetare care, până acum, era complet invizibil: măcar că știm cu adevărat că a căutat și a apelat, și că nu a fost schimbat pe drumul de întoarcere.
$OPG @OpenGradient #OPG