我最近一直在思考，人們開始信任他們幾乎不瞭解的AI系統是多麼容易。
越想越覺得這個想法讓人不安。
幾年前，大多數人仍然把AI當作一種實驗。現在，它正在慢慢融入人們每天搜索、學習、研究、工作和做決策的方式。
這種轉變發生得比我預期的要快。
有趣的是，這種依賴通常不會大聲宣佈自己。
它通過便利悄然增長。
人們信任那些能節省他們時間的系統。
然後最終他們完全停止質疑它們。
我一直在想，當社會達到一個AI深度融入日常生活的點時，而透明度和驗證卻仍然落後於採用的速度，會發生什麼。
那個差距感覺很重要。
因爲歷史表明，當信任的擴展速度超過周圍的問責制時，強大的系統會變得危險。
我們在社交媒體上看到了這一點。
我們在數據隱私上看到了這一點。
AI可能最終會創造一個更大的同樣問題。
這部分是爲什麼@OpenGradient 引起了我的注意。
很多項目專注於讓AI更強大。但圍繞託管、推理和驗證的基礎設施可能會變得與智能本身一樣關鍵，一旦數十億人開始每天依賴這些系統。
因爲最終問題可能不再是：
“AI有多聰明？”
而變爲：
“社會應該對無法獨立驗證的智能投入多少信任？”
AI的未來可能不僅屬於最快或最智能的系統。
它可能屬於那些在依賴變得不可避免之後，人們仍然信任的系統。
@OpenGradient
#opg $OPG
越想越覺得這個想法讓人不安。
幾年前，大多數人仍然把AI當作一種實驗。現在，它正在慢慢融入人們每天搜索、學習、研究、工作和做決策的方式。
這種轉變發生得比我預期的要快。
有趣的是，這種依賴通常不會大聲宣佈自己。
它通過便利悄然增長。
人們信任那些能節省他們時間的系統。
然後最終他們完全停止質疑它們。
我一直在想，當社會達到一個AI深度融入日常生活的點時，而透明度和驗證卻仍然落後於採用的速度，會發生什麼。
那個差距感覺很重要。
因爲歷史表明，當信任的擴展速度超過周圍的問責制時，強大的系統會變得危險。
我們在社交媒體上看到了這一點。
我們在數據隱私上看到了這一點。
AI可能最終會創造一個更大的同樣問題。
這部分是爲什麼@OpenGradient 引起了我的注意。
很多項目專注於讓AI更強大。但圍繞託管、推理和驗證的基礎設施可能會變得與智能本身一樣關鍵，一旦數十億人開始每天依賴這些系統。
因爲最終問題可能不再是：
“AI有多聰明？”
而變爲：
“社會應該對無法獨立驗證的智能投入多少信任？”
AI的未來可能不僅屬於最快或最智能的系統。
它可能屬於那些在依賴變得不可避免之後，人們仍然信任的系統。
@OpenGradient
#opg $OPG