Innanzitutto, chiarifichiamo questo numero.
La documentazione ufficiale di OpenLedger menziona che OpenLoRA è progettato per ridurre significativamente i costi di avvio e scalabilità dei modelli AI, abbattendo le spese infrastrutturali fino al 99,99%.
Questo numero fa paura, ma la maggior parte delle persone si ferma qui – oh, i costi sono bassi, e poi?
Voglio riflettere su questo numero per qualche passaggio in più.
Primo passo: cosa significa comprimere i costi?
Logica tradizionale per il deployment dei modelli AI: hai affinato un modello specializzato, per farlo chiamare hai bisogno di risorse GPU dedicate, un server di inferenza indipendente e costi di manutenzione separati.
Questo è appena accettabile per le grandi istituzioni.
Per i contribuenti di dati individuali, questo costo è completamente insostenibile: non hanno i fondi per distribuire i propri server di inferenza.
OpenLoRA ha cambiato questa struttura: più modelli di fine-tuning LoRA condividono le stesse risorse GPU del modello base, caricando dinamicamente gli adattatori e passando all'occorrenza durante l'inferenza.
Il tuo modello di fine-tuning non ha bisogno di infrastrutture indipendenti, basta "montare" un modello base esistente per farlo funzionare.
La compressione dei costi del 99,99% è il risultato diretto di questa architettura.
Secondo passo: come influisce la compressione dei costi sul bilancio economico dei contributori di dati?
Ora, ripercorriamo la struttura delle spese di inferenza presente nel white paper:
Se i costi di inferenza scendono vicino a zero, allora una porzione maggiore delle spese di inferenza può essere distribuita ai contributori, invece di essere consumata dai costi infrastrutturali.
Questo equivale ad aumentare la percentuale di condivisione effettiva per i contributori, senza aumentare la volontà di pagamento degli utenti.
Pensaci al contrario: questo è anche un'importante condizione per attrarre contributori di dati di alta qualità.
Se la percentuale di condivisione per i contributori ad ogni inferenza è minima, gli esperti di alta qualità non avranno abbastanza incentivi per contribuire con tempo ed energia.
La compressione dei costi di OpenLoRA è una delle condizioni tecnologiche di base che rendono il modello economico dei contributori sostenibile.
Non è solo un trucco, è la base della sostenibilità economica.
Terzo passo: come influisce la compressione dei costi sulla domanda di $OPEN?
Costi di inferenza vicini a zero significano:
La soglia d'adozione per gli utenti è abbassata: gli sviluppatori che prima non consideravano di utilizzare i servizi AI on-chain a causa dei costi elevati ora non hanno più ostacoli.
Abbassando la soglia d'uso, l'utilizzo ha la possibilità di crescere più rapidamente.
Con l'aumento dell'utilizzo, il totale delle spese per inferenza aumenta, anche se il costo per inferenza singola è molto basso, il consumo cumulativo di $OPEN crescerà.
Questo è un modello di domanda "prezzi bassi alta frequenza", piuttosto che "prezzi alti bassa frequenza".
Ma devo aggiungere due argomenti contrari.
Argomento contrario uno: la compressione dei costi potrebbe ridurre la quantità di $OPEN consumata per ogni utilizzo.
Se il costo di ogni inferenza è vicino a zero, allora anche il consumo di $OPEN ad ogni inferenza sarà molto basso.
Se la crescita totale può compensare la riduzione del consumo per singolo utilizzo, dipende dalla velocità di crescita dell'utilizzo.
Se la crescita dell'utilizzo non è abbastanza rapida, il basso consumo per singola operazione diventerà un fattore di pressione sulla domanda di token piuttosto che un fattore di spinta.
Argomento contrario due: i costi bassi potrebbero abbassare la soglia d'ingresso, portando a un afflusso di utenti di bassa qualità.
Se distribuire un modello AI on-chain richiede quasi zero costi, chiunque può facilmente distribuirlo, compresi i modelli di scarsa qualità.
Le valutazioni di qualità di Datanets e il meccanismo di penalizzazione RLHF sono una protezione contro questo problema, ma l'efficacia della protezione deve essere verificata nella realtà.
Giudizio complessivo: OpenLoRA è un pilastro implicito del modello economico di OpenLedger.
La maggior parte delle persone discute di OpenLedger, concentrandosi sul meccanismo di attribuzione e sulla distribuzione dei token.
Ma se la compressione dei costi di OpenLoRA non funziona, l'intero modello economico non sarà coerente: i contributori guadagnano troppo poco, nessuno vorrà contribuire con alta qualità; i costi di distribuzione sono troppo alti, l'utilizzo non decolla; se l'utilizzo non decolla, la ruota non gira.
Questo componente tecnologico è quello meno valorizzato.
Vale la pena prestare attenzione. $OPEN
