如果人工智能變得太聰明，值得信賴嗎？

最近我花了更多時間使用人工智能工具，而一個想法不斷回到我腦海裏。

我們都在關注人工智能變得多麼聰明。更好的模型，更快的響應，更多的能力。每隔幾個月，感覺技術又向前邁出了一大步。

但我在想，智能是否真的已經不再是最大的問題。
更大的問題可能是我們是否能夠驗證人工智能告訴我們的內容。

大多數時候，我們得到一個答案就簡單接受了。我們很少看到它是如何產生的，或者其背後的推理是否可以獨立檢查。這對於日常任務可能沒什麼問題，但當人工智能開始影響金融決策、研究、業務運營，甚至自主系統時，這就顯得更爲重要了。

這就是OpenGradient吸引我注意的原因之一。

據我瞭解，該項目正在探索可驗證人工智能的基礎設施，其中輸出不僅需要被信任，還可以實際得到驗證。

也許市場對此還沒有給予太多關注。但隨着人工智能越來越融入日常生活，透明度似乎將是我們最終會關心的事情。

我仍在學習這個領域，但這是一個值得關注的想法。

@OpenGradient $JTO $BSB $OPG #OPG