當回應中附帶驗證資料,且應用程式把它當作等同於「完成驗證」時,OpenGradient 就會被暴露出來。
我一直在查看 TEE 回應欄位,因為這裡正是讓建置者自以為是的地方。
模型可以回覆。付款可以完成清算。回應可以根據不同模式攜帶 TEE 簽名、付款雜湊,以及結算中繼資料——從介面上看,這已經很像是證據。
但應用程式仍然必須做那些「無聊」的工作。
它必須檢查簽名涵蓋了什麼。它必須確保被簽署的輸出與提示、模型路由以及觸發它的動作保持綁定。它必須避免把「我們收到了已簽署的回應」轉變成「我們已驗證了這個決策」。
當代理人是根據答案採取行動時,這個落差最重要。
如果錢包被封鎖、費用改變,或風險標籤命中某位使用者,建置者無法透過指出 JSON 裡某個簽名欄位就為結果辯護。問題在於:在應用程式使用答案之前,它是否真的先驗證了這些證據。
這就是我在這裡看到的 OpenGradient 壓力點。
如果產品只把收據顯示出來、卻從不去檢查,那收據就不是保護。
#OPG $OPG @OpenGradient
我一直在查看 TEE 回應欄位,因為這裡正是讓建置者自以為是的地方。
模型可以回覆。付款可以完成清算。回應可以根據不同模式攜帶 TEE 簽名、付款雜湊,以及結算中繼資料——從介面上看,這已經很像是證據。
但應用程式仍然必須做那些「無聊」的工作。
它必須檢查簽名涵蓋了什麼。它必須確保被簽署的輸出與提示、模型路由以及觸發它的動作保持綁定。它必須避免把「我們收到了已簽署的回應」轉變成「我們已驗證了這個決策」。
當代理人是根據答案採取行動時,這個落差最重要。
如果錢包被封鎖、費用改變,或風險標籤命中某位使用者,建置者無法透過指出 JSON 裡某個簽名欄位就為結果辯護。問題在於:在應用程式使用答案之前,它是否真的先驗證了這些證據。
這就是我在這裡看到的 OpenGradient 壓力點。
如果產品只把收據顯示出來、卻從不去檢查,那收據就不是保護。
#OPG $OPG @OpenGradient
