Vor ein paar Tagen nachts, als ich auf meine ETH-Position geachtet habe, habe ich nebenbei auch die technische Dokumentation der @OpenGradient nochmal durchgelesen. Eigentlich wollte ich nur schauen, ob es im AI-Track in letzter Zeit Neues gibt. Aber dann hat mich eine Frage festgenagelt: Wenn in Zukunft immer mehr Entscheidungen von KI erledigt werden, worauf können wir dann vertrauen, dass die Ergebnisse, die das Modell ausspuckt, wirklich stimmen?
Viele beschäftigen sich mit OpenGradient. Auf den ersten Blick sieht man vor allem KI-Inferenz. Später habe ich aber gemerkt: Das Team möchte nicht in erster Linie die Modellfähigkeit verbessern, sondern die Vertrauenswürdigkeit der Inferenz-Ergebnisse.
Zu Beginn habe ich nicht verstanden, warum das Projekt so oft betont, dass Ausführung und Verifikation getrennt werden müssen. Erst als ich den gesamten Ablauf erneut auseinander genommen habe, wurde es klar: Bei traditionellen Blockchains beruht die Verifikation von Transaktionen darauf, dass das ganze Netzwerk sie wiederholt ausführt. Diese Methode ist im Inferenz-Umfeld für große Modelle jedoch nahezu unpraktisch. Eine komplexe Inferenz verbraucht deutlich mehr Rechenleistung als eine normale Transaktion. Wenn alle Knoten alles nochmal neu berechnen müssten, würde die Netzwerkkosten sehr schnell außer Kontrolle geraten.
OpenGradients Ansatz ist relativ direkt: Inferenz-Knoten führen das Modell aus, Verifikations-Knoten prüfen nur die Beweise, ohne die Berechnung erneut durchzuführen. TEE übernimmt dabei den Beweis, dass die Berechnung in einer vertrauenswürdigen Umgebung abläuft, und zkML ist dafür zuständig, beweisfähige Nachweise zu erzeugen. Zwei Mechanismen lösen damit jeweils das Problem der Effizienz und das der Vertrauenswürdigkeit.
Was mich allerdings immer wieder beschäftigt, sind die Kosten. Theoretisch kann diese Architektur das KI-Black-Box-Problem zwar tatsächlich adressieren. Aber TEE setzt auf Vertrauen in den Hardware-Anbieter, und auch das Generieren von zkML-Beweisen verbraucht zusätzliche Ressourcen. Für normale Anwendungen ist bisher nicht klar, wie viele Szenarien bereit sind, für diese zusätzliche Vertrauenswürdigkeit überhaupt extra Kosten zu zahlen.
Je weiter ich darüber nachdenke, desto mehr zweifle ich: Der eigentliche Wettbewerber von OpenGradient könnte vielleicht nicht andere KI-Projekte sein, sondern eher traditionelle Cloud-Computing-Plattformen. Wenn die Nachfrage nach On-Chain-Agents, automatisiertem Trading und intelligenten Ausführungen weiter wächst, könnte so ein vertrauenswürdiges Inferenznetzwerk durchaus eine eigene Position finden. Aber wenn Entwickler stärker auf Kosten als auf Verifizierungsfähigkeit achten, dann kann selbst ein noch so ausgeklügeltes technisches Design kaum schnell in echte Nachfrage umgewandelt werden.
#opg $OPG
Viele beschäftigen sich mit OpenGradient. Auf den ersten Blick sieht man vor allem KI-Inferenz. Später habe ich aber gemerkt: Das Team möchte nicht in erster Linie die Modellfähigkeit verbessern, sondern die Vertrauenswürdigkeit der Inferenz-Ergebnisse.
Zu Beginn habe ich nicht verstanden, warum das Projekt so oft betont, dass Ausführung und Verifikation getrennt werden müssen. Erst als ich den gesamten Ablauf erneut auseinander genommen habe, wurde es klar: Bei traditionellen Blockchains beruht die Verifikation von Transaktionen darauf, dass das ganze Netzwerk sie wiederholt ausführt. Diese Methode ist im Inferenz-Umfeld für große Modelle jedoch nahezu unpraktisch. Eine komplexe Inferenz verbraucht deutlich mehr Rechenleistung als eine normale Transaktion. Wenn alle Knoten alles nochmal neu berechnen müssten, würde die Netzwerkkosten sehr schnell außer Kontrolle geraten.
OpenGradients Ansatz ist relativ direkt: Inferenz-Knoten führen das Modell aus, Verifikations-Knoten prüfen nur die Beweise, ohne die Berechnung erneut durchzuführen. TEE übernimmt dabei den Beweis, dass die Berechnung in einer vertrauenswürdigen Umgebung abläuft, und zkML ist dafür zuständig, beweisfähige Nachweise zu erzeugen. Zwei Mechanismen lösen damit jeweils das Problem der Effizienz und das der Vertrauenswürdigkeit.
Was mich allerdings immer wieder beschäftigt, sind die Kosten. Theoretisch kann diese Architektur das KI-Black-Box-Problem zwar tatsächlich adressieren. Aber TEE setzt auf Vertrauen in den Hardware-Anbieter, und auch das Generieren von zkML-Beweisen verbraucht zusätzliche Ressourcen. Für normale Anwendungen ist bisher nicht klar, wie viele Szenarien bereit sind, für diese zusätzliche Vertrauenswürdigkeit überhaupt extra Kosten zu zahlen.
Je weiter ich darüber nachdenke, desto mehr zweifle ich: Der eigentliche Wettbewerber von OpenGradient könnte vielleicht nicht andere KI-Projekte sein, sondern eher traditionelle Cloud-Computing-Plattformen. Wenn die Nachfrage nach On-Chain-Agents, automatisiertem Trading und intelligenten Ausführungen weiter wächst, könnte so ein vertrauenswürdiges Inferenznetzwerk durchaus eine eigene Position finden. Aber wenn Entwickler stärker auf Kosten als auf Verifizierungsfähigkeit achten, dann kann selbst ein noch so ausgeklügeltes technisches Design kaum schnell in echte Nachfrage umgewandelt werden.
#opg $OPG