最近测试一些 Agent 产品的时候,我突然发现一个以前没太在意的问题。
我们总在讨论 Agent 能做什么,却很少讨论 Agent 应该忘记什么。
很多项目现在都在拼记忆。
长期记忆、上下文记忆、用户画像……
看起来记得越多越聪明。 #OPG
但我后来发现,记忆其实也是一种负担。
因为记忆越多,错误也会积累。
这时候我反而理解了 @OpenGradient 为什么一直强调模型版本和推理环境。
以前我觉得这些东西很工程化,很枯燥。
但后来发现,这可能关系到未来 Agent 能否真正规模化。
举个简单例子。
如果一个交易 Agent 去年根据某个模型和参数运行得很好,今年模型升级之后策略发生变化。
那么问题来了。
问题到底出在市场环境?
还是出在模型版本?
又或者是推理参数变化?
没有记录,根本无法定位。
而 $OPG 的做法是,把模型版本、执行环境和推理过程一起纳入系统中。
这样做的好处是,当 Agent 出现问题的时候,可以回头找到问题发生在哪里。
这一点很像软件开发中的版本管理。
代码可以回滚。
环境可以复现。
Bug 可以定位。
某种意义上,OpenGradient 正在尝试把 AI 开发从一种“玄学”变成工程学。
但这里也有一个让我思考很久的问题。
AI 和传统软件最大的区别在于,软件追求确定性,而 AI 天然带有随机性。
即使所有环境完全一样,两次推理结果也未必完全一致。
所以 OpenGradient 记录的是过程,而不是绝对正确。
它无法保证 Agent 永远不犯错。
但至少能保证,当错误发生的时候,不至于完全无从下手。
说实话,我现在越来越觉得,未来 Agent 真正需要的可能不是更长的记忆,而是更好的“遗忘能力”和更完善的版本管理。
而 OpenGradient 做的这些基础设施,或许正是很多人暂时看不到,但未来一定绕不开的部分。