我一直在思考OpenGradient,這是AI中幾乎沒有人談論的部分。
不是答案。
而是答案之前的空間。
我們問了一些問題,系統回應,而我們大多數人默默地假設其間的一切都是按應有的方式進行的。正確的模型運行了。輸出是乾淨的。沒有任何東西被交換、扭曲或在幕後靜悄悄地調整過。
當AI只是幫助處理小事情時,這感覺無害。
但當這些系統越來越接近金錢、身份、代理和實際影響人們的決策時,這種感覺開始變得不同。
也許更好的模型能解決部分問題。
也許它們不能。
因為更深層的問題不僅僅是答案看起來是否正確。而是是否有任何人能證明這個答案是如何產生的。
這就是OpenGradient讓我感興趣的原因。
它不是追逐AI的閃亮部分。它坐落在那個不太華麗的層次,在那裡模型被托管,推理發生,執行需要被檢查而不是盲目信任。
一個去中心化的模型中心使得模型層不再封閉。可驗證的推理為輸出提供了一個痕跡。答案不再只是結果,而是開始成為有證據支持的東西。
我不認為大多數人還在那裡尋找。
他們仍然在根據輸出的結果來評價AI。
但隨著風險的上升,更重要的問題可能是它在輸出之前發生了什麼。
#OPG @OpenGradient $OPG
不是答案。
而是答案之前的空間。
我們問了一些問題,系統回應,而我們大多數人默默地假設其間的一切都是按應有的方式進行的。正確的模型運行了。輸出是乾淨的。沒有任何東西被交換、扭曲或在幕後靜悄悄地調整過。
當AI只是幫助處理小事情時,這感覺無害。
但當這些系統越來越接近金錢、身份、代理和實際影響人們的決策時,這種感覺開始變得不同。
也許更好的模型能解決部分問題。
也許它們不能。
因為更深層的問題不僅僅是答案看起來是否正確。而是是否有任何人能證明這個答案是如何產生的。
這就是OpenGradient讓我感興趣的原因。
它不是追逐AI的閃亮部分。它坐落在那個不太華麗的層次,在那裡模型被托管,推理發生,執行需要被檢查而不是盲目信任。
一個去中心化的模型中心使得模型層不再封閉。可驗證的推理為輸出提供了一個痕跡。答案不再只是結果,而是開始成為有證據支持的東西。
我不認為大多數人還在那裡尋找。
他們仍然在根據輸出的結果來評價AI。
但隨著風險的上升,更重要的問題可能是它在輸出之前發生了什麼。
#OPG @OpenGradient $OPG
