AI基礎設施讓我重新思考一些以前從未質疑過的事情。

當我使用AI工具時,我幾乎從不問答案是如何產生的。

我只關注輸出。

如果看起來有用,我就接受它,繼續前進。

奇怪的是,我在其他地方並不這樣做。

在金融領域,沒有人期待信任足夠。記錄是存在的。審計是存在的。結算系統是存在的。整個基礎設施層是因爲人們最終意識到信心和驗證並不是同一回事而建立的。

然而,AI正在成爲研究、交易、軟件和決策的一部分,而它的大部分計算仍然是看不見的。

在閱讀OpenGradient的內容時,這種對比讓我一直感到困擾。

該項目專注於可驗證的AI執行,最初我以爲這只是另一個技術特性。越深入瞭解,我越覺得這是一種完全不同的思考AI基礎設施的方式。

與其將驗證視爲事後考慮,這種架構將其視爲工作流程的一部分。

我覺得有趣的是,關於AI的許多對話都集中在模型質量上。更大的模型。更快的模型。更智能的模型。

很少有關注證據的。

不是答案聽起來是否正確,而是是否有人能夠獨立驗證實際發生了什麼。

我不知道驗證是否會成爲AI系統的標準要求。

大多數用戶自然會優化便利性。

但許多重要技術遵循相同的模式:驗證看起來不必要,直到它變得必不可少。

這是我不斷回到的問題。

隨着AI變得越來越強大,信任是否足夠?

或者證明最終會和性能一樣重要?
@OpenGradient #OPG #opg $OPG