带生物衰减机制的AI记忆(52%召回率)

带生物衰减机制的AI记忆(52%召回率) 图片 1

大多数RAG设置失败是因为它们把内存当作静态文件柜。当每个暂时的漏洞修复或放弃规则都被永久存储时,上下文窗口最终会被噪声堵塞,导致令牌成本飙升,降低代理的推理能力。

该实现尝试生物学方法,利用埃宾豪斯遗忘曲线将上下文作为活基底进行管理。记忆会被赋予一个“强度”分数,每次回忆都会强化数据并使其衰减曲线趋平(间隔重复),而未使用的数据最终会达到阈值并被修剪。

为了解决语义搜索遗漏相关但不相似节点的“逻辑邻居”问题,在向量存储上叠加了图层。以LoCoMo数据集为基准测试,Recall@5达到了52%,几乎是无状态向量存储准确率的两倍,同时减少了约84%的令牌浪费。

作为本地的第一个MCP服务器,使用DuckDB构建,假设对于处理长期项目的代理来说,“忘记什么”和“记住什么”同样重要。我很想听听其他人是否在探索非线性衰变或类似的生物约束来进行情境管理。

GitHub:

添加评论
点赞收藏
点踩分享查看原文
评论
?
参与讨论