我侄子上週問我，爲什麼他的作業應用"知道"一個老師當場無法解決的問題。我給了他一些半吊子的答案，關於服務器和數據的，他點頭表示這樣就解決了。但對我來說，並沒有解決任何問題。我意識到我也無法真正解釋那個答案從何而來——實際上並沒有，無法超越我們對"雲端"進行思考的舒適虛構。
在某個時刻，我們停止了詢問智能存在於何處。我們現在不斷向AI詢問事情，但很少問是誰在託管那個給出答案的模型，哪個硬件運行了推理，輸出是否可以與任何東西進行覈對。我一直在想，我們何時集體決定不知情是可以的。讓我困擾的是，隱形是如何迅速成爲信任的默認質地——我們信任答案是因爲界面流暢，而不是因爲任何人可以驗證它。
這就是像OpenGradient這樣的東西讓我感興趣的地方，不是作爲一個產品，而是作爲一個結構性的問題。它把智能視爲需要協調、託管和檢查的東西，而不僅僅是生成和交付。它位於模型之下，而不是內部——作爲驗證的基礎設施，而不是另一個聲稱知道事情的聲音。
但我並不完全相信驗證和規模實際上想要相同的未來。一個系統越開放，所有權就越難以定義。託管越去中心化，激勵措施就越需要做信任曾經做的工作。也許我們在問AI是否準確時問錯了問題，真正的問題是是否有人可以進行檢查。
更深層次的問題可能是，我們從未爲如此規模的智能建立信任——我們只是借用了那些從未被要求自我驗證的系統。我懷疑我們纔剛開始理解我們因不詢問而放棄了什麼。
#opg $OPG @OpenGradient
在某個時刻，我們停止了詢問智能存在於何處。我們現在不斷向AI詢問事情，但很少問是誰在託管那個給出答案的模型，哪個硬件運行了推理，輸出是否可以與任何東西進行覈對。我一直在想，我們何時集體決定不知情是可以的。讓我困擾的是，隱形是如何迅速成爲信任的默認質地——我們信任答案是因爲界面流暢，而不是因爲任何人可以驗證它。
這就是像OpenGradient這樣的東西讓我感興趣的地方，不是作爲一個產品，而是作爲一個結構性的問題。它把智能視爲需要協調、託管和檢查的東西，而不僅僅是生成和交付。它位於模型之下，而不是內部——作爲驗證的基礎設施，而不是另一個聲稱知道事情的聲音。
但我並不完全相信驗證和規模實際上想要相同的未來。一個系統越開放，所有權就越難以定義。託管越去中心化，激勵措施就越需要做信任曾經做的工作。也許我們在問AI是否準確時問錯了問題，真正的問題是是否有人可以進行檢查。
更深層次的問題可能是，我們從未爲如此規模的智能建立信任——我們只是借用了那些從未被要求自我驗證的系統。我懷疑我們纔剛開始理解我們因不詢問而放棄了什麼。
#opg $OPG @OpenGradient