朋友上週說，直接用AI就行，咱們倆都沒反駁。我們瞥了一眼結果就繼續往前走。早些年的人也是這樣對待晚間新聞主播，信任播出的內容，而不問是誰決定了節目單。我一直在思考這兩個時刻。
便利性是關鍵。當一個界面毫無摩擦，一切底層的東西就消失在視野之外。你不會問是什麼模型在運作，誰訓練過它，它接觸了哪些數據，或者輸出是如何排名的。互動在你提問之前就結束了。
這裏有個讓我覺得不對勁的地方。採納速度越快，越沒有空間去問實際在運行的是什麼。那些從你不提問中獲益最多的人，正是那些構建界面的人。你用可見性換取便利性，卻沒有明確指出這個交換，而這個交換保持匿名，因爲體驗從未給你一個停下來的時刻。
第二階效應更爲安靜。當你圍繞不可驗證的輸出建立習慣時，你會停止發展檢查的本能。不是因爲你懶，而是因爲界面中沒有任何東西提示你。隨着時間的推移，你以一種難以表達或挑戰的方式信任它，而這種依賴不斷加深。
這就是基礎設施如何變得不可見的原因。不可見的基礎設施是你無法審計、質疑或追究責任的基礎設施。無論底層的模型是否準確，或者以你從未同意的方式處理你的數據，這都無所謂。你沒有參照點，所以你不會注意到。
OpenGradient正在朝着相反的方向發展。這個網絡的設計是爲了讓AI推理不僅僅是託管的，而是可驗證的，以便於今天大多數用戶看不見的層變成可以真正被檢查和質疑的東西。當驗證成爲架構的一部分而不是事後的想法時，用戶可以要求的基線假設開始發生變化。
你對現在工作流中運行的AI工具瞭解多少？把你的答案放在評論裏。
@OpenGradient $OPG #OPG
$RE $BTW
便利性是關鍵。當一個界面毫無摩擦，一切底層的東西就消失在視野之外。你不會問是什麼模型在運作，誰訓練過它，它接觸了哪些數據，或者輸出是如何排名的。互動在你提問之前就結束了。
這裏有個讓我覺得不對勁的地方。採納速度越快，越沒有空間去問實際在運行的是什麼。那些從你不提問中獲益最多的人，正是那些構建界面的人。你用可見性換取便利性，卻沒有明確指出這個交換，而這個交換保持匿名，因爲體驗從未給你一個停下來的時刻。
第二階效應更爲安靜。當你圍繞不可驗證的輸出建立習慣時，你會停止發展檢查的本能。不是因爲你懶，而是因爲界面中沒有任何東西提示你。隨着時間的推移，你以一種難以表達或挑戰的方式信任它，而這種依賴不斷加深。
這就是基礎設施如何變得不可見的原因。不可見的基礎設施是你無法審計、質疑或追究責任的基礎設施。無論底層的模型是否準確，或者以你從未同意的方式處理你的數據，這都無所謂。你沒有參照點，所以你不會注意到。
OpenGradient正在朝着相反的方向發展。這個網絡的設計是爲了讓AI推理不僅僅是託管的，而是可驗證的，以便於今天大多數用戶看不見的層變成可以真正被檢查和質疑的東西。當驗證成爲架構的一部分而不是事後的想法時，用戶可以要求的基線假設開始發生變化。
你對現在工作流中運行的AI工具瞭解多少？把你的答案放在評論裏。
@OpenGradient $OPG #OPG
$RE $BTW