Piața actuală se concentrează pe stratul de aplicații AI, dar adevărata problemă se află în puterea de calcul (Compute). Odată cu creșterea explozivă a parametrilor modelului mare, resursele GPU ale furnizorilor centralizați de cloud devin din ce în ce mai scumpe și mai rare.
Aceasta este exact oportunitatea optimă pentru tehnologia blockchain - rețeaua de putere de calcul descentralizată.
Este ca și cum nu ar trebui ca fiecare persoană să dețină o placă grafică de top, dar putem apela la puterea de calcul globală neutilizată prin protocol pentru a rula inferențe (Inference) sau ajustări fine (Fine-tuning).
În special pentru vLLM, un cadru de inferență cu o capacitate de procesare ridicată, dacă putem combina mecanismele de stimulare de pe lanț, astfel încât plăcile grafice consumatoare neutilizate să poată participa la serviciile de inferență LLM, aceasta va schimba complet structura de costuri a AI-ului.
În viitor, poate că placa ta grafică, în timp ce doarme, ajută un anumit agent AI să câștige Token.💎