第一次向AI工具提交財務細節並點擊發送時，我感覺有些不對勁。這不是通常對日誌或存儲的擔憂，而是更直接的感覺，就像在一個房間裏說話，而接下來發生的一切都在玻璃後面，而玻璃只有單向的。

大多數關於隱私的討論仍然集中在數據保留上。誰保存日誌，保存多久，誰可以訪問它們。這種框架適合過去十年，因爲主要風險是存儲記錄的泄露。

但推斷與存儲不是同一回事。當一個模型處理你的輸入時，計算在一個默認沒有查看者的系統內運行，只有結果返回。路徑並不會返回。我一直在思考這一點，因爲它重新定義了在這種情況下隱私的真正含義。

這個差距比看起來要深。運行模型的操作員往往也無法審覈推斷路徑。日誌記錄輸入和輸出，但連接它們的計算步驟很少被存儲在任何地方。因此，當人們假設不透明意味着保護時，他們實際上只是在假設沒有人檢查過，這與知道什麼都沒有發生是不同的。

可驗證推斷試圖在架構層面改變這一點。其想法是每一步推斷都應該產生一個證明，某種獨立可驗證的東西，以便能夠驗證觸及你的輸入的內容，而不是單純依賴信任。這個過程變得可審計，而不僅僅是結果。

大多數用戶對輸入和輸出之間發生的事情沒有模型。他們像信任搜索框一樣信任這個接口，假設系統按描述的方式運行。這個假設以前從未需要驗證，因爲直到最近沒有任何機制可以提供它。

使這個問題更難以解決的是，這裏的透明度並不僅僅是一個技術問題。確切知道你的輸入是如何處理的，哪些組件接觸了它，以及它經過了什麼路徑，會改變許多人最初願意輸入到框中的內容。

@OpenGradient $OPG #OPG $TNSR $UB