一、怎么让 AI 真正“懂你”想象一下和一位老朋友相处——他不会记住你每一句话的每个字但会在心里慢慢形成一个关于你的“模型”你的爱好、习惯、价值观。AI 的用户记忆系统要做的正是这件事。1. 记忆是怎么“存”进去的每次对话结束系统会调用专门的 AI 模型分析对话内容从中提取值得长期记住的信息。这个过程有三个关键特征选择性不记“搜索返回了 3 个选项”这样的临时信息只保留对未来有帮助的事实。抽象化不绑定某次具体航班而是提炼为通用偏好比如“用户偏好靠窗座位”。结构化用统一格式组织信息方便后续快速检索。这样一来下次你订机票时Agent 就不需要再问你的座位偏好——它已经记住了。2. 记忆的四种存储方式同样一条信息可以用四种不同方式存储各有优劣存储方式特点优缺点Simple Notes简单笔记最小事实碎片如“邮箱johnexample.com”极快极省但信息关联被切断Enhanced Notes增强笔记完整段落如“用户是高级软件工程师专注 ML 三年”语义完整但存储冗余、更新麻烦JSON CardsJSON 卡片三层结构类别→子类别→键值对结构清晰、支持部分更新但假设信息可清晰分类Advanced JSON Cards高级 JSON 卡片不仅记录事实还记录背景、主体身份、关系精准但成本高实际应用中大多数系统采用混合模式关键数据用高级卡片保证精准大量非关键事实用简单笔记控制成本。3. 什么样的记忆系统算好评估一个记忆系统可以从三个层次来看第一层基础回忆→ 能准确存储和检索用户直接提供的信息比如会员号。第二层多会话检索→ 能处理多个不同时间、不同对象的会话信息比如用户有两辆车系统能主动询问“为哪辆车预约保养”第三层主动服务→ 助理级别综合跨会话信息提供预见性帮助比如预订国际航班时自动关联数月前存储的护照信息并提醒即将过期。二、知识库与 RAG让 AI 成为“领域专家”如果说用户记忆是让 AI“懂你”那么知识库就是让 AI“懂行”——掌握一个领域的专业知识。1. RAG 是什么RAG的核心思想非常简单让 AI 在回答问题之前先去外部知识库“查资料”。AI 模型本身的训练数据有截止日期但知识库可以随时更新。RAG 把 AI 的思考能力与知识库的广度结合起来——先查到相关资料再结合这些资料来回答问题答案自然更准确、更及时。2. 文档分块RAG 的第一步“功课”把文档存入知识库之前必须先分块Chunking——把长文档切成适合检索的小片段。为什么要切嵌入模型把文字转成数字向量的模型对输入长度有限制。一整篇文档压缩成一个向量时多个主题混在一起向量无法精确表达任何一个。常见的分块策略有三种固定大小切分简单粗暴可能切断句子。递归/结构感知切分按章节、段落等自然边界切——生产系统最常用。语义切分在语义发生“断崖”的地方切让每个块的主题尽量单一。3. 检索的两条路线稠密 vs 稀疏分好块之后怎么找到最相关的那几块有两条技术路线稠密检索语义理解把文字转化成高维向量语义相近的内容在向量空间里也“挨得近”。优点是能理解同义词缺点是可能漏掉精确关键词。稀疏检索关键词匹配基于 BM25 等经典算法精确匹配关键词。优点是能精准找到“HTTP-403”缺点是读不懂同义词。最佳实践是“混合检索”两条路线都跑结果合并。再进一步用重排序器对候选结果精细打分把最相关的文档排到最前面。三、高级知识组织从“查资料”到“真理解”简单的 RAG查资料→回答虽然强大但有根本性限制——它把文档切成独立碎片忽略了知识本身的内在结构。就像试图通过阅读一本字典的随机词条来理解一部小说很难把握全局。1. 结构化索引给知识“建目录”解决方法是在索引之前先用 AI 把知识整理一遍——归纳、抽象、建立关联。目前主要有两条路RAPTOR树状层次自下而上递归抽象。先把文档切成小块作为“叶子节点”聚类后生成更高层次的摘要作为“父节点”如此递归形成一棵知识树。适合“从宏观概念逐步深入到细节”的查询。GraphRAG实体关系图把知识建模为由实体和关系构成的知识图谱。比如张三就职于腾讯、腾讯总部在深圳。这张网特别擅长回答“A 和 B 之间是什么关系”这类问题。2. 智能体化 RAG从“被动管道”到“主动研究员”传统 RAG 是一个单向流程用户提问→检索→生成答案。而智能体化 RAG把知识库检索封装成一个工具让 Agent 自己决定什么时候搜、搜什么、怎么搜。打个比方传统 RAG 就像在图书馆里只做一次搜索就立刻写报告智能体化 RAG 则像一位研究员可以反复查阅不同书架、调整搜索策略、交叉验证信息直到掌握足够的材料再动笔。面对复杂问题比如法律量刑智能体化 RAG 会这样工作第一轮分解问题并行搜索多个子问题。思考与评估发现各子问题的信息找到了但缺少将它们联系起来的线索。第二轮基于更聚焦的问题构建更精确的二次查询。最终综合找到关联信息后给出逻辑严密的完整回答。写在最后这一章的核心可以浓缩为三句话第一记忆不是简单记录而是主动提炼。AI 不是把你说过的每句话都存下来而是从中提取出对未来的“有用信息”——你的偏好、习惯、需求。第二检索比存储更重要。记忆再多找不到等于没有。这就是为什么向量检索、混合检索、重排序这些技术如此关键。第三好的 Agent 不只是“回答问题”而是“解决问题”。从被动等待提问到主动预判需求——这才是从“工具”到“助理”的本质跃迁。