Skip to content

实现长程记忆

· 1 min

使用 ChatMessageHistory、RunnableWithMessageHistory 实现了记忆功能。

问题：当对话轮数多了，历史记录会迅速膨胀，影响推理性能，甚至超过上下文窗口。

如何实现长程记忆？

  1. 对之前的会话记录进行总结
  2. 将会话记录存储至向量数据库

实现步骤

  1. 构建摘要链：专门对用户的会话记录做摘要操作的。
  2. 使用摘要链