Derzeit konzentriert sich der Markt auf die Anwendungsschicht von KI, aber das eigentliche Nadelöhr liegt tatsächlich in der Rechenleistung (Compute). Mit dem explosionsartigen Wachstum der Parameter großer Modelle werden die GPU-Ressourcen der zentralisierten Cloud-Anbieter immer teurer und knapper.
Dies ist die beste Gelegenheit für die Blockchain-Technologie, um einzutreten – ein dezentrales Netzwerk für Rechenleistung.
Es ist, als müssten nicht alle einen High-End-Grafikprozessor besitzen, sondern könnten über Protokolle auf die weltweit ungenutzte Rechenleistung zugreifen, um Inferenz (Inference) oder Feinabstimmung (Fine-tuning) durchzuführen.
Insbesondere für vLLM, ein Hochdurchsatz-Inferenz-Framework, könnte die Kombination mit Anreizmechanismen auf der Blockchain es sogar ermöglichen, dass ungenutzte Verbrauchergrafikprozessoren auch an den Inferenzdiensten von LLM teilnehmen, was die Kostenstruktur von KI grundlegend verändern würde.
In Zukunft könnte es sein, dass deine Grafikkarte schläft und dabei einem KI-Agenten hilft, Token zu verdienen.💎