最近企業安全的討論讓我很煩惱，我一直在試圖弄明白原因。那些最專注於數據保護的團隊幾乎總是朝着一個方向，關注外部威脅。而流向的更安靜的方向卻沒有被提及。

每週，大型組織的員工都把他們最敏感的材料輸入到AI工具中。合同草稿、財務模型、董事會簡報、未發佈的產品路線圖。這些工具表現良好，數據流出。而在大多數組織中，沒有人正式追蹤這些數據的去向。

我一直在思考的就是。當公司審查AI供應商時，他們會進行常規的檢查清單，包括SOC 2認證、滲透測試。
這些框架告訴你供應商是否能抵禦外部攻擊，但對供應商在其系統內部可以對數據做什麼卻沒有任何說明。一個工具可以通過每個企業安全審查，但仍然可以保留輸入數據，將其在客戶之間彙總，並將其納入下一個模型更新。整個評估指向了錯誤的方向。

這個後果讓人更難以接受。當一個AI模型因處理了你公司未發佈的財務預測或內部法律策略而得到改進時，這種改進屬於供應商。生產力的提升歸員工所有，而模型的提升卻去向不明。沒有合同來定價這種交換，因爲大多數組織從未正式談判過。

opengradient對此採取了不同的方法。推理髮生在隔離的環境中，因此數據輸入永遠不會到達可以在會話之間彙總或保留它們的基礎設施。企業協議涵蓋的內容與數據在供應商系統內部實際發生的情況之間的差距，正是該架構旨在彌補的。

大多數組織可以生成詳細的日誌，記錄哪些外部供應商擁有網絡訪問權限。幾乎沒有組織能告訴你他們的員工在過去六個月中使用了哪些AI工具進行敏感工作。這種不對稱性可能比任何泄露報告都更重要。

@OpenGradient
$OPG
#OPG