@OpenGradient
我花了太多時間關注模型性能,而沒有足夠關注性能在網絡中的路徑。這就像在評判一家物流公司時只看包裹的質量,卻忽視了是否有人能證明包裹的去向。這個小錯誤改變了我對AI基礎設施的理解,這也是我持續關注OpenGradient驗證層的原因之一。
讓我注意到的是,將推斷和驗證視爲獨立責任的決定,而不是假設產生輸出就足夠了。一個去中心化的網絡可以承載許多模型和許多運營商,但每增加一個參與者,就更需要獨立的驗證。值得關注的地方不是計算在分佈式節點上發生,而是網絡被設計用來創建證據,證明計算是以預期的方式發生的。我通過詢問信任是來自聲譽還是可重複的驗證來評估基礎設施,通常我更傾向於那些減少用戶盲目信任要求的系統。
這個設計選擇有實際的後果。模型提供者、應用開發者和下游服務都需要對結果的一致性有信心,而不必自己重建相同的驗證過程。將託管、推斷和驗證分開,創建了更清晰的操作邊界,並允許每一層在不強迫每個參與者接受不透明假設的情況下發展。架構不再只是關於單一快速結果,而是隨着網絡的發展維護可靠的行爲。
我並不認爲這是一個存在於營銷幻燈片中的功能。我認爲這是在嘗試解決去中心化AI基礎設施在規模上最終會面臨的協調問題。驗證標準很可能會變得與計算能力一樣重要,而那些將其視爲核心基礎設施而不是事後思考的項目,正是我繼續關注的對象。
#OPG $OPG
我花了太多時間關注模型性能,而沒有足夠關注性能在網絡中的路徑。這就像在評判一家物流公司時只看包裹的質量,卻忽視了是否有人能證明包裹的去向。這個小錯誤改變了我對AI基礎設施的理解,這也是我持續關注OpenGradient驗證層的原因之一。
讓我注意到的是,將推斷和驗證視爲獨立責任的決定,而不是假設產生輸出就足夠了。一個去中心化的網絡可以承載許多模型和許多運營商,但每增加一個參與者,就更需要獨立的驗證。值得關注的地方不是計算在分佈式節點上發生,而是網絡被設計用來創建證據,證明計算是以預期的方式發生的。我通過詢問信任是來自聲譽還是可重複的驗證來評估基礎設施,通常我更傾向於那些減少用戶盲目信任要求的系統。
這個設計選擇有實際的後果。模型提供者、應用開發者和下游服務都需要對結果的一致性有信心,而不必自己重建相同的驗證過程。將託管、推斷和驗證分開,創建了更清晰的操作邊界,並允許每一層在不強迫每個參與者接受不透明假設的情況下發展。架構不再只是關於單一快速結果,而是隨着網絡的發展維護可靠的行爲。
我並不認爲這是一個存在於營銷幻燈片中的功能。我認爲這是在嘗試解決去中心化AI基礎設施在規模上最終會面臨的協調問題。驗證標準很可能會變得與計算能力一樣重要,而那些將其視爲核心基礎設施而不是事後思考的項目,正是我繼續關注的對象。
#OPG $OPG