#opg $OPG @OpenGradient
我最近在測試幾個 AI 端點時，注意到了一些奇怪的地方。
回應看起來很正常，但我卻無法回答一個簡單的問題：
究竟是哪個模型生成了這些回應？
我以為模型推論只是輕鬆的事：送出提示詞，就會拿回 tokens。但我越看越覺得，對 AI 系統的信任，仍然高度取決於你是否信任那些在背後運行基礎設施的人。
所以我一直在想 $OPG
吸引我注意的並不是去中心化 AI 這個概念本身。
而是試圖把模型託管、推論與驗證做成共享網路的一部分，而不是單一服務。
這套架構引出了有趣的問題。
如果不同節點能託管模型並執行推論，那麼「溯源」就變得很重要。我們怎麼知道使用的是哪些權重？
又如何驗證計算真的如同宣稱的那樣發生？
為了驗證，我們願意承擔多少額外開銷？
分散式系統花了多年時間解決儲存與共識相關的問題。感覺 AI 基礎設施現在也開始面臨類似的挑戰。
如果智慧成為一種網路資源，而不是平台功能，那最困難的工程問題會變成什麼：驗證、排程，還是信任本身？
$NVDAB
我最近在測試幾個 AI 端點時，注意到了一些奇怪的地方。
回應看起來很正常，但我卻無法回答一個簡單的問題：
究竟是哪個模型生成了這些回應？
我以為模型推論只是輕鬆的事：送出提示詞，就會拿回 tokens。但我越看越覺得，對 AI 系統的信任，仍然高度取決於你是否信任那些在背後運行基礎設施的人。
所以我一直在想 $OPG
吸引我注意的並不是去中心化 AI 這個概念本身。
而是試圖把模型託管、推論與驗證做成共享網路的一部分，而不是單一服務。
這套架構引出了有趣的問題。
如果不同節點能託管模型並執行推論，那麼「溯源」就變得很重要。我們怎麼知道使用的是哪些權重？
又如何驗證計算真的如同宣稱的那樣發生？
為了驗證，我們願意承擔多少額外開銷？
分散式系統花了多年時間解決儲存與共識相關的問題。感覺 AI 基礎設施現在也開始面臨類似的挑戰。
如果智慧成為一種網路資源，而不是平台功能，那最困難的工程問題會變成什麼：驗證、排程，還是信任本身？
$NVDAB