我曾經認爲,人工智能的未來將由哪種模型變得更聰明來決定。

速度更快的。
規模更大的。
能更深入推理、回答更好、感覺更人性化的。

一段時間以來,這看起來是顯而易見的。

每一次新發布都在訓練我們以性能來衡量人工智能。更好的基準。更長的上下文。更清晰的響應。更自然的對話。

但最近,我開始覺得,智能可能不再是最難的問題。

信任可能纔是。

因爲隨着AI越來越多地進入我們的日常生活,我們不再只是問它簡單的問題。我們在告訴它我們的私人想法、工作決策、財務假設、健康擔憂,有時還包括我們不願意在其他地方說出的自己的一部分。

這改變了AI響應的意義。

當人們開始依賴它時,錯誤的答案不僅僅是一個bug。當決策基於此時,隱藏的模型變化不僅僅是一個技術細節。當輸出無法驗證時,當AI開始觸及代理、應用程序、錢包和現實世界系統時,這並不是無害的。

這就是OpenGradient吸引我注意的地方。

不是因爲它試圖讓AI聽起來更令人印象深刻,而是因爲它指向一個更安靜的問題:

AI能否在不變得更加集中化的情況下變得更值得信賴?

OpenGradient和OpenGradient Chat讓我更傾向於把AI視爲基礎設施,而不是產品。如果智能變成我們依賴的東西,那麼託管、運行和驗證模型的能力就同模型本身一樣重要。

也許AI的下一個階段不僅僅是關於誰能產生最具說服力的答案。

也許它將是關於我們能否證明這個答案是如何產生的。

這感覺很重要。

因爲沒有驗證的智能仍然要求我們盲目信任。

而AI變得越強大,盲目信任就越讓人感到不安。

@OpenGradient $OPG #opg