‎@OpenGradient
‎‎我最初提出的第一個問題並不在於模型本身。

‎‎而是在於驗證者。
‎
‎當我想象一種用於 AI 推理的“傳統區塊鏈”會是什麼樣子時，我一直在思考：如果每個驗證者都需要運行每一次請求，那麼系統會變成怎樣。
‎
‎這同樣適用於代幣轉賬。
‎
‎但對 AI 來說這就完全行不通了。
‎
‎因爲一個小型分類器、一個圖像模型以及一個 70B 的大語言模型，並不需要相同的硬件、相同的執行時間，甚至連成本都不一樣。若把它們一概而論，就會在計算上造成巨大的浪費，或者讓網絡慢到無法真正發揮作用。
‎
‎這正是 OpenGradient 的架構開始變得更有意義的地方。
‎
‎HACA 不再要求每個節點都做所有事情。
‎
‎推理節點負責執行模型。
‎
‎全節點負責驗證證明並維護共識。
‎
‎數據節點負責獲取可信的外部數據。
‎
‎Walrus 將那些“重”的部分存儲在鏈下。
‎
‎每一層都在解決不同的問題，而不是在爭奪同一份資源。
‎
‎我一直在想的並不是這種“專門化”本身。
‎
‎而是協調（coordination）。
‎
‎隨着網絡規模變大，更難的可能不是計算髮生在哪裏，而是當用戶要求推理節點、數據節點和驗證者各司其職時，如何避免瓶頸。
‎
‎專門化能夠提升性能。
‎
‎但性能能否隨着規模擴展，取決於協調能力。
‎
‎#OPG #opg $OPG
‎
‎隨着 OpenGradient 的專用網絡不斷壯大，最重要的會是什麼？
‎

‎