我一直在思考OpenGradient,這是AI中幾乎沒有人談論的部分。

不是答案。

而是答案之前的空間。

我們問了一些問題,系統回應,而我們大多數人默默地假設其間的一切都是按應有的方式進行的。正確的模型運行了。輸出是乾淨的。沒有任何東西被交換、扭曲或在幕後靜悄悄地調整過。

當AI只是幫助處理小事情時,這感覺無害。

但當這些系統越來越接近金錢、身份、代理和實際影響人們的決策時,這種感覺開始變得不同。

也許更好的模型能解決部分問題。

也許它們不能。

因為更深層的問題不僅僅是答案看起來是否正確。而是是否有任何人能證明這個答案是如何產生的。

這就是OpenGradient讓我感興趣的原因。

它不是追逐AI的閃亮部分。它坐落在那個不太華麗的層次,在那裡模型被托管,推理發生,執行需要被檢查而不是盲目信任。

一個去中心化的模型中心使得模型層不再封閉。可驗證的推理為輸出提供了一個痕跡。答案不再只是結果,而是開始成為有證據支持的東西。

我不認為大多數人還在那裡尋找。

他們仍然在根據輸出的結果來評價AI。

但隨著風險的上升,更重要的問題可能是它在輸出之前發生了什麼。

#OPG @OpenGradient $OPG