最近，我在思考AI的快速發展與其治理系統之間的關係。

每個人都想要更智能的AI。

但很少有人問，當智能的增長速度超過透明度、問責制或驗證時，會發生什麼。

這個差距比大多數人意識到的要大。

歷史表明，當技術的採用速度超過監管時，強大的技術通常會變得有問題。我們在社交媒體、數據隱私和金融系統的某些部分中看到了這一點。

AI最終可能會面臨同樣的挑戰。

這也是@OpenGradient 引起我注意的原因之一。

許多AI項目專注於構建更強大的模型。但圍繞託管、推理和驗證的基礎設施可能變得和智能本身一樣重要。

因爲沒有透明度的治理最終會變成盲目信任。

而盲目信任很少能安全地擴展。

我認爲AI未來最大的一個問題不只是：

“AI能變得多強大？”

而是：

“當數十億人依賴它時，AI能保持多可信？”

AI的未來可能不僅屬於最聰明的系統。

它也可能屬於人們可以自信信任的系統。

@OpenGradient $OPG #OPG
#opg $OPG