"人們信任結果。機構信任流程。"
@OpenGradient #opg $OPG
幾年前我曾以為，信任來自結果。
如果某件事反覆奏效，久而久之，人們就會信任它。
很簡單。
但我看著 AI 不斷發展，對此就越來越不確定。
因為結果只告訴我們發生了什麼。
流程則告訴我們為什麼會發生。
多數人都能輕易接受正確的答案。
但機構通常想要的不是那個。
他們想要的是證據。
如果一個 AI 系統核准了一筆貸款、標記了一筆交易、評估一份合約或支援醫療決策，「它做到了」可能不夠。
總有人會追問：
這是怎麼生成的？
是誰執行的？
能不能被重現？
能不能被驗證？
這大概也是為什麼可驗證的 AI 一直吸引著我的注意。
OpenGradient 看起來不那麼關注說服世界：AI 是多麼聰明；反而更關注讓 AI 對其行為負責。
這些想法是相關的。
但它們並不是同一件事。
智慧會創造可能性。
驗證會帶來信任。
而信任的擴展方式也不一樣。
一個人可能只需要信任一次答案。
一家企業可能會成千上萬次地信任一個流程。
因此我開始思考：AI 基礎設施的長期價值，是不是來自智慧本身……
還是來自讓智慧可以被稽核。
也許未來的 AI 競賽不只是在打造更聰明的系統。
也許它同時也是在打造那些能在答案已經給出之後，仍能說明自己怎麼得出結論的系統。
對你來說，哪個更重要：
更好的答案？
還是更好的信任方式？
@OpenGradient #OPG $OPG
@OpenGradient #opg $OPG
幾年前我曾以為，信任來自結果。
如果某件事反覆奏效，久而久之，人們就會信任它。
很簡單。
但我看著 AI 不斷發展，對此就越來越不確定。
因為結果只告訴我們發生了什麼。
流程則告訴我們為什麼會發生。
多數人都能輕易接受正確的答案。
但機構通常想要的不是那個。
他們想要的是證據。
如果一個 AI 系統核准了一筆貸款、標記了一筆交易、評估一份合約或支援醫療決策，「它做到了」可能不夠。
總有人會追問：
這是怎麼生成的？
是誰執行的？
能不能被重現？
能不能被驗證？
這大概也是為什麼可驗證的 AI 一直吸引著我的注意。
OpenGradient 看起來不那麼關注說服世界：AI 是多麼聰明；反而更關注讓 AI 對其行為負責。
這些想法是相關的。
但它們並不是同一件事。
智慧會創造可能性。
驗證會帶來信任。
而信任的擴展方式也不一樣。
一個人可能只需要信任一次答案。
一家企業可能會成千上萬次地信任一個流程。
因此我開始思考：AI 基礎設施的長期價值，是不是來自智慧本身……
還是來自讓智慧可以被稽核。
也許未來的 AI 競賽不只是在打造更聰明的系統。
也許它同時也是在打造那些能在答案已經給出之後，仍能說明自己怎麼得出結論的系統。
對你來說，哪個更重要：
更好的答案？
還是更好的信任方式？
@OpenGradient #OPG $OPG