幾年前,我可能會認爲這是個荒謬的想法。
如果一個 AI 系統比另一個更聰明,爲什麼它不應該贏?
這聽起來顯而易見。
但我觀察技術發展的時間越久,這份“顯而易見”就越不確定。
歷史上充滿了那些未必就是最好的產品。
它們之所以變得主導,是因爲人們信任它。
或者因爲它解決了一個比單純的性能更重要的問題。
AI 也許正在接近類似的時刻。
今天,大多數對話都圍繞能力展開。
模型有多大?
提升速度有多快?
推理表現有多好?
這些問題確實重要。
但它們都建立在同一個前提上:
智能是主要瓶頸。
我現在不再確定這點。
想象一個 AI 系統能幫助執行交易、審批付款、分析合同,或支持商業決策。
在這些場景裏,智能只是方程的一部分。
另一部分是“可信度”。
不是指答案聽起來是否正確。
而是指流程本身是否值得信賴。
這正是讓我對 OpenGradient 感到有趣的原因。
該項目正在探索 AI 棧的另一層:驗證。
藉助諸如可信執行環境(TEE)和零知識機器學習(ZKML)等技術,目標是讓重要的 AI 計算能夠被獨立地驗證,而不是僅憑聲譽就被接受。
這並不會神奇地解決一切。
驗證會帶來額外開銷。
在規模化條件下,證明系統仍然難且昂貴。
這些限制都是真實存在的。
儘管如此,我總會回到同一個想法。
AI 的第一章在於生成智能。
下一章可能會是證明智能。
而如果真是這樣,未來的 AI 競賽未必只會由最聰明的系統贏得。
可能會由人們能夠驗證的那一個贏得。
@OpenGradient #OPG $OPG
如果一個 AI 系統比另一個更聰明,爲什麼它不應該贏?
這聽起來顯而易見。
但我觀察技術發展的時間越久,這份“顯而易見”就越不確定。
歷史上充滿了那些未必就是最好的產品。
它們之所以變得主導,是因爲人們信任它。
或者因爲它解決了一個比單純的性能更重要的問題。
AI 也許正在接近類似的時刻。
今天,大多數對話都圍繞能力展開。
模型有多大?
提升速度有多快?
推理表現有多好?
這些問題確實重要。
但它們都建立在同一個前提上:
智能是主要瓶頸。
我現在不再確定這點。
想象一個 AI 系統能幫助執行交易、審批付款、分析合同,或支持商業決策。
在這些場景裏,智能只是方程的一部分。
另一部分是“可信度”。
不是指答案聽起來是否正確。
而是指流程本身是否值得信賴。
這正是讓我對 OpenGradient 感到有趣的原因。
該項目正在探索 AI 棧的另一層:驗證。
藉助諸如可信執行環境(TEE)和零知識機器學習(ZKML)等技術,目標是讓重要的 AI 計算能夠被獨立地驗證,而不是僅憑聲譽就被接受。
這並不會神奇地解決一切。
驗證會帶來額外開銷。
在規模化條件下,證明系統仍然難且昂貴。
這些限制都是真實存在的。
儘管如此,我總會回到同一個想法。
AI 的第一章在於生成智能。
下一章可能會是證明智能。
而如果真是這樣,未來的 AI 競賽未必只會由最聰明的系統贏得。
可能會由人們能夠驗證的那一個贏得。
@OpenGradient #OPG $OPG