喜歡或按讚留言一下，拜託🙏🏻🥺🥹
短帖
Matthew t
·
--
看跌大多數人對此不會多想。
我們問AI一個問題。
它給我們一個答案。
然後我們繼續前進。
但最近我在想：
誰來檢查AI？
銀行會被審計。
上市公司會被審計。
財務記錄會被審計。
當系統擁有影響金錢、決策和人們生活的力量時，我們通常會要求問責。
然而，AI在研究、醫療、教育、招聘、金融等越來越多的領域被使用，而這些領域的錯誤可能會產生真實後果。
而且在很多情況下，我們仍然無法驗證幕後發生了什麼。
我們經常面臨一個簡單的選擇：
相信輸出。
或者不相信。
對於一個已經深深嵌入我們生活中的科技來說，這感覺不太可持續。
有趣的是，越來越多的建設者開始關注一個不同的問題：
不是「我們如何讓AI更聰明？」
而是「我們如何讓AI更值得信賴？」
這就是像可驗證AI和密碼學證明這些概念變得引人入勝的地方。
目標不是要求人們盲目信任。
目標是提供證據。
創建可以驗證輸出的系統、檢查過程的系統，並將問責納入基礎設施本身。
因為未來的AI競賽可能不僅僅由智慧來定義。
它也可能由透明度來定義。
那些可以解釋的模型。
那些可以驗證的系統。
那些可以證明的平台。
隨著AI變得越來越強大，信任不再只是一個特徵。
它正在成為一個要求。
而且也許最重要的問題不是AI能變得多聰明。
也許是我們願意讓它承擔多少責任。
你怎麼看？
AI系統是否應該像我們審計金融機構和上市公司一樣進行獨立審計？
@OpenGradient #OPG $OPG
我們問AI一個問題。
它給我們一個答案。
然後我們繼續前進。
但最近我在想：
誰來檢查AI？
銀行會被審計。
上市公司會被審計。
財務記錄會被審計。
當系統擁有影響金錢、決策和人們生活的力量時，我們通常會要求問責。
然而，AI在研究、醫療、教育、招聘、金融等越來越多的領域被使用，而這些領域的錯誤可能會產生真實後果。
而且在很多情況下，我們仍然無法驗證幕後發生了什麼。
我們經常面臨一個簡單的選擇：
相信輸出。
或者不相信。
對於一個已經深深嵌入我們生活中的科技來說，這感覺不太可持續。
有趣的是，越來越多的建設者開始關注一個不同的問題：
不是「我們如何讓AI更聰明？」
而是「我們如何讓AI更值得信賴？」
這就是像可驗證AI和密碼學證明這些概念變得引人入勝的地方。
目標不是要求人們盲目信任。
目標是提供證據。
創建可以驗證輸出的系統、檢查過程的系統，並將問責納入基礎設施本身。
因為未來的AI競賽可能不僅僅由智慧來定義。
它也可能由透明度來定義。
那些可以解釋的模型。
那些可以驗證的系統。
那些可以證明的平台。
隨著AI變得越來越強大，信任不再只是一個特徵。
它正在成為一個要求。
而且也許最重要的問題不是AI能變得多聰明。
也許是我們願意讓它承擔多少責任。
你怎麼看？
AI系統是否應該像我們審計金融機構和上市公司一樣進行獨立審計？
@OpenGradient #OPG $OPG