我曾經認爲,人工智能的未來將由哪種模型變得更聰明來決定。
速度更快的。
規模更大的。
能更深入推理、回答更好、感覺更人性化的。
一段時間以來,這看起來是顯而易見的。
每一次新發布都在訓練我們以性能來衡量人工智能。更好的基準。更長的上下文。更清晰的響應。更自然的對話。
但最近,我開始覺得,智能可能不再是最難的問題。
信任可能纔是。
因爲隨着AI越來越多地進入我們的日常生活,我們不再只是問它簡單的問題。我們在告訴它我們的私人想法、工作決策、財務假設、健康擔憂,有時還包括我們不願意在其他地方說出的自己的一部分。
這改變了AI響應的意義。
當人們開始依賴它時,錯誤的答案不僅僅是一個bug。當決策基於此時,隱藏的模型變化不僅僅是一個技術細節。當輸出無法驗證時,當AI開始觸及代理、應用程序、錢包和現實世界系統時,這並不是無害的。
這就是OpenGradient吸引我注意的地方。
不是因爲它試圖讓AI聽起來更令人印象深刻,而是因爲它指向一個更安靜的問題:
AI能否在不變得更加集中化的情況下變得更值得信賴?
OpenGradient和OpenGradient Chat讓我更傾向於把AI視爲基礎設施,而不是產品。如果智能變成我們依賴的東西,那麼託管、運行和驗證模型的能力就同模型本身一樣重要。
也許AI的下一個階段不僅僅是關於誰能產生最具說服力的答案。
也許它將是關於我們能否證明這個答案是如何產生的。
這感覺很重要。
因爲沒有驗證的智能仍然要求我們盲目信任。
而AI變得越強大,盲目信任就越讓人感到不安。
@OpenGradient $OPG #opg
速度更快的。
規模更大的。
能更深入推理、回答更好、感覺更人性化的。
一段時間以來,這看起來是顯而易見的。
每一次新發布都在訓練我們以性能來衡量人工智能。更好的基準。更長的上下文。更清晰的響應。更自然的對話。
但最近,我開始覺得,智能可能不再是最難的問題。
信任可能纔是。
因爲隨着AI越來越多地進入我們的日常生活,我們不再只是問它簡單的問題。我們在告訴它我們的私人想法、工作決策、財務假設、健康擔憂,有時還包括我們不願意在其他地方說出的自己的一部分。
這改變了AI響應的意義。
當人們開始依賴它時,錯誤的答案不僅僅是一個bug。當決策基於此時,隱藏的模型變化不僅僅是一個技術細節。當輸出無法驗證時,當AI開始觸及代理、應用程序、錢包和現實世界系統時,這並不是無害的。
這就是OpenGradient吸引我注意的地方。
不是因爲它試圖讓AI聽起來更令人印象深刻,而是因爲它指向一個更安靜的問題:
AI能否在不變得更加集中化的情況下變得更值得信賴?
OpenGradient和OpenGradient Chat讓我更傾向於把AI視爲基礎設施,而不是產品。如果智能變成我們依賴的東西,那麼託管、運行和驗證模型的能力就同模型本身一樣重要。
也許AI的下一個階段不僅僅是關於誰能產生最具說服力的答案。
也許它將是關於我們能否證明這個答案是如何產生的。
這感覺很重要。
因爲沒有驗證的智能仍然要求我們盲目信任。
而AI變得越強大,盲目信任就越讓人感到不安。
@OpenGradient $OPG #opg