#opg $OPG În timp ce îmi ordonam înregistrările de testare AI, am observat un fenomen destul de ciudat. Unele sarcini, deși au primit deja răspunsul, sistemul continuă în continuare să consume resurse; iar altele se încheie mai devreme, dar raționamentul din etapele următoare este nevoit să pornească din nou de la capăt. Inițial am crezut că este doar o problemă de eficiență a execuției, până când, urmărind mai departe designul protocolului OpenGradient, mi-am dat seama că ignoram ceva mult mai important. Poate că adevărata chestiune demnă de studiu nu este o singură rundă de raționament, ci ce proces ar trebui să treacă o sarcină de la început până la final.
Ulterior am aflat că OpenGradient pune mai mult accent pe ciclul de viață al sarcinilor, nu pe o singură execuție. Multe sisteme, după ce primesc o solicitare, încep direct raționamentul; odată ce oferă rezultatul, sarcina se consideră încheiată. Însă stratul de protocol nu privește sarcina ca pe un gest de unică folosință. Dimpotrivă, el împarte totul în stări distincte, precum crearea, execuția, continuarea și încheierea. Ordinea de proiectare nu mai este „să finalizezi cât mai repede sarcina”, ci „să definești mai întâi cum există sarcina”. Asta nu rezolvă viteza de răspuns, ci modul în care sarcinile complexe își păstrează continuitatea și gestionabilitatea în diferite etape. Continuând să urmăresc firul acestei idei, ajung din ce în ce mai mult la concluzia că valoarea rețelei provine chiar din ciclul de viață în sine. Dacă o sarcină are stări clare, sistemul de programare poate ști când să aloce resurse, când să schimbe nodul și când să elibereze puterea de calcul. Când se alătură rețelei un model nou, nu este nevoie să preia din nou întregul flux; este suficient să participe la etapa relevantă. Pe măsură ce rețeaua se extinde, nu se bazează pe faptul că un anumit model devine tot mai puternic, ci pe faptul că toate sarcinile respectă același set de reguli privind ciclul de viață. Este mai degrabă un design de inginerie, nu o funcție de produs.
Citind până aici, încep și eu să înțeleg de ce protocolul are nevoie de Token. Pentru că sarcinile consumă resurse în diverse etape, iar momentul în care resursele sunt puse la dispoziție și cel în care sunt eliberate trebuie coordonate unitar. În acest context, Token-ul joacă un rol mai apropiat de mediu de coordonare pentru a menține ciclul de viață al sarcinii să funcționeze corect, nu ca instrument de guvernare.
Așa că acum mă preocupă mult mai puțin dacă o singură rundă de raționament a fost finalizată. În schimb, am început să mă întreb cum anume se încheie o sarcină și dacă acest lucru este la fel de important ca felul în care începe. @OpenGradient
Ulterior am aflat că OpenGradient pune mai mult accent pe ciclul de viață al sarcinilor, nu pe o singură execuție. Multe sisteme, după ce primesc o solicitare, încep direct raționamentul; odată ce oferă rezultatul, sarcina se consideră încheiată. Însă stratul de protocol nu privește sarcina ca pe un gest de unică folosință. Dimpotrivă, el împarte totul în stări distincte, precum crearea, execuția, continuarea și încheierea. Ordinea de proiectare nu mai este „să finalizezi cât mai repede sarcina”, ci „să definești mai întâi cum există sarcina”. Asta nu rezolvă viteza de răspuns, ci modul în care sarcinile complexe își păstrează continuitatea și gestionabilitatea în diferite etape. Continuând să urmăresc firul acestei idei, ajung din ce în ce mai mult la concluzia că valoarea rețelei provine chiar din ciclul de viață în sine. Dacă o sarcină are stări clare, sistemul de programare poate ști când să aloce resurse, când să schimbe nodul și când să elibereze puterea de calcul. Când se alătură rețelei un model nou, nu este nevoie să preia din nou întregul flux; este suficient să participe la etapa relevantă. Pe măsură ce rețeaua se extinde, nu se bazează pe faptul că un anumit model devine tot mai puternic, ci pe faptul că toate sarcinile respectă același set de reguli privind ciclul de viață. Este mai degrabă un design de inginerie, nu o funcție de produs.
Citind până aici, încep și eu să înțeleg de ce protocolul are nevoie de Token. Pentru că sarcinile consumă resurse în diverse etape, iar momentul în care resursele sunt puse la dispoziție și cel în care sunt eliberate trebuie coordonate unitar. În acest context, Token-ul joacă un rol mai apropiat de mediu de coordonare pentru a menține ciclul de viață al sarcinii să funcționeze corect, nu ca instrument de guvernare.
Așa că acum mă preocupă mult mai puțin dacă o singură rundă de raționament a fost finalizată. În schimb, am început să mă întreb cum anume se încheie o sarcină și dacă acest lucru este la fel de important ca felul în care începe. @OpenGradient