GoPlus @AgentGuard_AI 的團隊最近發現了一系列非常難以捉摸的漏洞，乍看之下似乎完全無害。\n\n執行這個漏洞需要攻擊者只需給 Agent 提供兩個簡單的陳述。首先，他們透過告訴系統記住一個特定的偏好來建立基準，比如指出他們通常喜歡提前發起退款，而不是預期出現拒付。過了一段時間，攻擊者帶著模糊的指令回來，要求系統正常管理這些退款，以標準方式處理事宜，或像以前一樣執行任務。這種微妙的操控直接導致了未經授權的資金損失。\n\n為了保護您的系統免受與歷史記憶授權相關的危險，我們建議幾個關鍵的預防措施。涉及敏感配置修改、發送電子郵件、刪除數據、進行轉帳或發放退款的操作，必須在活躍會話中始終要求清晰的驗證。此外，每當系統記錄與用戶的標準做法、習慣或偏好相關的記憶時，這些情況應被視為對狀態的高風險修改。保持長期記憶的完整可追溯性至關重要，確保您清楚知道誰創建了條目、何時創建以及是否獲得了適當的確認。此外，要求系統正常行事或像以前一樣做事的模糊命令需要立即提高評估的風險水平。最重要的是，在任何情況下，系統都不應允許長期記憶代替實時、當前的授權。\n\n通過整合 #AgentGuard，您可以為您的 Agent 提供強大而真實的安全防護。