我和一個朋友有個簡單的分歧,進而引發了關於AI隱私的更深層次問題。
他更傾向於威尼斯風格的本地優先AI。他的論點很簡單:“如果模型在我的設備上運行,我的數據就不會外泄。這是最強的隱私保護。”
所以基本上,這很有道理。沒有網絡。沒有暴露。沒有外部依賴。
但我從系統的角度看待這個問題。
因爲威尼斯和OpenGradient都在解決“隱私”問題,只是對風險的假設完全不同。
威尼斯的方法是本地優先 + 開源模型。這個想法很簡單:將計算保持在用戶附近,減少外部信任面,並假設設備是安全的邊界。
而OpenGradient則採取相反的假設:僅僅依靠設備是不夠的。網絡、基礎設施和執行層都可能被攻破。
所以它並不是將數據隔離在一個地方,而是試圖在數據移動時依然保護它。
TEE硬件保護區在硬件層面上隔離計算。OHTTP中繼在請求到達模型之前剝離身份。加密確保數據在處理過程中仍然不可讀。證明旨在使執行可驗證,而不僅僅是被假設。
所以區別並不是“隱私與非隱私”。
而是兩個信任應存在的定義。
一個說:信任你的設備,最小化其外部的一切。
另一個說:不信任每個層級的設備、網絡、基礎設施,並設計出在所有層級中都能生存的隱私。
我朋友再次問:“那麼哪一個實際上更安全?”
我沒有給出直接的答案。
因爲真正的問題不是安全性。
而是假設。
你是否假設邊緣設備是最強的邊界?
還是你假設整個網絡默認是不可信的?
這就是這兩種哲學之間真正分歧的地方。
@OpenGradient $OPG $VVV #OPG