昌都市网站建设_网站建设公司_代码压缩_seo优化

AI记忆是为了让AI的每次任务处理都能更加符合用户需求，那么在每次进行任务处理的时候就和人一样，需要把与这次任务最相关的记忆全部召回出来，在结合本次的任务目标上下文进行对应任务处置。召回的记忆越相关、越丰富，最终任务处理的质量就越高。

AI记忆就是从两个维度来增强AI记忆能力，一个是解决：从哪里找到更有用的知识？另一个解决：如何将更多有用的知识给到AI？接下来便会从这两个角度进行拆解，看看如何通过技术手段来解决两个AI记忆的问题。（注意一下：原生的AI大模型接口是没有上下文记忆的）

从哪里找到更有用的知识？

为了解决记忆增强，让更有用的知识进入AI大脑的问题，这里介绍LangMem的框架。它采用外部向量存储结合语义检索的方法，通过动态地将历史信息注入到prompt中，实现了“伪长期记忆”的效果。这种方法其实就是通过引入更多与当前任务相关联的记忆来辅助回答，从而增强回复的准确性。核心机制依赖于基于检索增强生成RAG的方法，通过RAG将本身预设的知识库中的知识之外更多的信息作为上下文加入到任务重。

可以进行补充进记忆的有效的记忆类型也多种多样，包括但不限于：

• ConversationBufferMemory：简单地串联所有对话历史。将一定数量的多伦对话历史载入AI任务上下文中。
• ConversationSummaryMemory：利用LLM对历史对话进行摘要，节省token。在进行AI任务时，将对话历史的总结性信息作为上下文。
• ConversationBufferWindowMemory：仅保留最近N轮的对话记录。留出一个记忆窗口，作为每一次任务上下文的补充。
• VectorStoreRetrieverMemory：基于向量检索实现的长期记忆支持。

用户输入 → 检索相关记忆 → 构建Prompt（含历史） → LLM生成 → 存储新记记忆为下一次的任务做准备

工作流程总结为，AI首先接收用户的输入，然后根据输入检索相关记忆，构建包含历史信息的prompt，接着由LLM生成回应，并最终将新产生的记忆存储下来，以为下一次的任务做好准备。这一系列步骤共同作用，旨在提高AI的记忆能力和响应质量。

通过记忆蒸馏提升AI记忆浓度

如何将更多有效信息融入上下文以扩大记忆容量的问题，其实不在于物理上扩大容量，而在于提高信息的密度。为了更高效地利用有限的上下文空间，可以借鉴斯坦福的Memgpt策略。这个策略通过记忆分层、记忆浓缩、认知循环、记忆摘要与索引4个方面来提升AI记忆浓度

记忆分层

Memgpt通过将记忆分为三个层次来优化这一过程：主上下文、长期存储以及内存分页机制。让不同的记忆存储到不同的位置，在不同的任务情况下动态调整记忆的分配，来确保记忆的最佳分布：

• 主上下文：作为当前工作内存，其容量是固定的，比如32K tokens，这是由大模型厂商设定的限制，也是每次对话能够传递给大型语言模型的最大上下文长度。
• 长期存储：它扮演着硬盘的角色，用于保存大量的历史信息。
• 内存分页机制：允许Agent在需要时从外部存储加载信息到主上下文中，或者当主上下文满载时，将不太重要的信息将主上下文中的记忆移出至长期存储中。

记忆浓缩

记忆浓缩的核心机制是将记忆进行结构化存储，同时进行动态记忆更新与自省。来确保知识在本意不变的情况下做占据的记忆上下文数量是最小的。整体的机制可以拆解为以下几个部分：

• 结构化记忆：与纯文本不同，记忆被构建成结构化的形式（如用户偏好、关系、事件时间线等），这使得能够在语义不变的情况下减少token的数量，从而在有限的上下文长度内包含更多的信息。例如：

  { "user": "Alice", "likes": "coffee", "last_met": "2025-09-20" }

• 自省机制：Agent定期进行自我总结，形成对自身行为的认知，并将其存入长期存储。在相关的对话场景中，提取这些总结而非原始的长对话记录，这样就减少了需要传送给上下文的信息量。

• 事件驱动的记忆更新：交互后，Agent会评估是否需要更新记忆、创建摘要或归档信息，确保只有最相关的内容被保留在上下文中。

• 递归上下文管理：当下下文不足时，Agent能够主动寻找更多信息，例如参考日志文件来获取过去对话的细节。

认知循环：

AI如何知道在海量的信息中，来决定我要回忆什么：通过认知循环。MemGPT将通过认知循环来执行结构化数据的检索。这是MemGPT最核心的创新之处：即大型语言模型能够主动决定“我现在需要回忆什么”。该过程通过一个被称为“认知循环”的机制实现：

**用户输入

↓

LLM 分析当前任务：“我需要回答关于旅行计划的问题”

↓

LLM 推理：“我可能需要回忆用户之前的旅行偏好”

↓

LLM 发出“系统调用”：

→ search_memory(query=“user travel preferences”, before=“2025-09-30”)

↓

系统执行机构化检索，返回相关记忆

↓

LLM 将结果整合进上下文，生成回答

↓

LLM 决定是否更新记忆：“用户再次提到旅行，应标记为高优先级”**

定期记忆摘要与索引优化：

MemGPT会定期对长期记忆进行自动摘要和索引构建。例如，系统可以将一周内的对话总结为：“用户计划在10月去瑞士徒步，偏好高海拔湖泊路线。” 这种总结不仅提炼了关键信息，还为未来的查询提供了基础。

这里通过例子来进行讲解：

例如用户在与一个旅游规划机器人进行了大量对话，存在以下对话记录：

喜欢高山湖泊 预算 2 万人民币 希望住有景观的民宿 担心高原反应 喜欢摄影 已订好 10月5日机票

第一步：Memgpt会通过LLM将其进行摘要总结：

【用户旅行偏好摘要 - 2025年9月30日】 - 目的地：瑞士，重点徒步区域为少女峰 - 时间：10月5日出发 - 偏好：高山湖泊景观、景观民宿、适合摄影 - 健康关注：担心高原反应 - 预算：约2万元（不含机票） - 状态：已订机票，行程进入准备阶段 - 重要性：高

第二步：该总结会被以json形式存储到长期记忆中，建立记忆块的索引：

{ "type": "summary", "topic": "switzerland_hiking", "timestamp": "2025-09-30", "keywords": ["summary", "travel", "hiking", "Switzerland"], "importance": 0.95 }

第三步：内部通过建立关键词索引来建立基于记忆总结中的实体

第四步：基于用户输入进行记忆块、记忆快中关键词的的索引，来召回对应的记忆。

用户输入（10月1日）：“我瑞士旅行的预算和住宿安排是怎样的？”

MemGPT处理流程：

理解问题：涉及“预算”和“住宿” ↓ 查看主上下文：当前为空 ↓ 触发检索决策： “我需要回忆用户关于瑞士旅行的安排，优先查找摘要和关键词匹配的记忆。” ↓ 执行检索： 先查索引：topic=switzerland_hiking → 找到摘要条目（记忆块） ↓ 再查关键词：budget, accommodation → 找到记忆块中的两条原始记忆 ↓ 由于摘要已包含关键信息，无需加载全部6条原始记忆 ↓ 加载最相关记忆到主上下文

最终通过这种高效的总结与索引建立，进行长期记忆的存储，与在特定任务时对于长期记忆的召回。

想入门 AI 大模型却找不到清晰方向？备考大厂 AI 岗还在四处搜集零散资料？别再浪费时间啦！2025 年AI 大模型全套学习资料已整理完毕，从学习路线到面试真题，从工具教程到行业报告，一站式覆盖你的所有需求，现在全部免费分享！

👇👇扫码免费领取全部内容👇👇

​

一、学习必备：100+本大模型电子书+26 份行业报告 + 600+ 套技术PPT，帮你看透 AI 趋势

想了解大模型的行业动态、商业落地案例？大模型电子书？这份资料帮你站在 “行业高度” 学 AI：

1. 100+本大模型方向电子书

2. 26 份行业研究报告：覆盖多领域实践与趋势

报告包含阿里、DeepSeek 等权威机构发布的核心内容，涵盖：

• 职业趋势：《AI + 职业趋势报告》《中国 AI 人才粮仓模型解析》；
• 商业落地：《生成式 AI 商业落地白皮书》《AI Agent 应用落地技术白皮书》；
• 领域细分：《AGI 在金融领域的应用报告》《AI GC 实践案例集》；
• 行业监测：《2024 年中国大模型季度监测报告》《2025 年中国技术市场发展趋势》。

3. 600+套技术大会 PPT：听行业大咖讲实战

PPT 整理自 2024-2025 年热门技术大会，包含百度、腾讯、字节等企业的一线实践：

• 安全方向：《端侧大模型的安全建设》《大模型驱动安全升级（腾讯代码安全实践）》；
• 产品与创新：《大模型产品如何创新与创收》《AI 时代的新范式：构建 AI 产品》；
• 多模态与 Agent：《Step-Video 开源模型（视频生成进展）》《Agentic RAG 的现在与未来》；
• 工程落地：《从原型到生产：AgentOps 加速字节 AI 应用落地》《智能代码助手 CodeFuse 的架构设计》。

二、求职必看：大厂 AI 岗面试 “弹药库”，300 + 真题 + 107 道面经直接抱走

想冲字节、腾讯、阿里、蔚来等大厂 AI 岗？这份面试资料帮你提前 “押题”，拒绝临场慌！

1. 107 道大厂面经：覆盖 Prompt、RAG、大模型应用工程师等热门岗位

面经整理自 2021-2025 年真实面试场景，包含 TPlink、字节、腾讯、蔚来、虾皮、中兴、科大讯飞、京东等企业的高频考题，每道题都附带思路解析：

2. 102 道 AI 大模型真题：直击大模型核心考点

针对大模型专属考题，从概念到实践全面覆盖，帮你理清底层逻辑：

3. 97 道 LLMs 真题：聚焦大型语言模型高频问题

专门拆解 LLMs 的核心痛点与解决方案，比如让很多人头疼的 “复读机问题”：

三、路线必明： AI 大模型学习路线图，1 张图理清核心内容

刚接触 AI 大模型，不知道该从哪学起？这份「AI大模型 学习路线图」直接帮你划重点，不用再盲目摸索！

路线图涵盖 5 大核心板块，从基础到进阶层层递进：一步步带你从入门到进阶，从理论到实战。

L1阶段:启航篇丨极速破界AI新时代

L1阶段：了解大模型的基础知识，以及大模型在各个行业的应用和分析，学习理解大模型的核心原理、关键技术以及大模型应用场景。

L2阶段：攻坚篇丨RAG开发实战工坊

L2阶段：AI大模型RAG应用开发工程，主要学习RAG检索增强生成：包括Naive RAG、Advanced-RAG以及RAG性能评估，还有GraphRAG在内的多个RAG热门项目的分析。

L3阶段：跃迁篇丨Agent智能体架构设计

L3阶段：大模型Agent应用架构进阶实现，主要学习LangChain、 LIamaIndex框架，也会学习到AutoGPT、 MetaGPT等多Agent系统，打造Agent智能体。

L4阶段：精进篇丨模型微调与私有化部署

L4阶段：大模型的微调和私有化部署，更加深入的探讨Transformer架构，学习大模型的微调技术，利用DeepSpeed、Lamam Factory等工具快速进行模型微调，并通过Ollama、vLLM等推理部署框架，实现模型的快速部署。

L5阶段：专题集丨特训篇 【录播课】

四、资料领取：全套内容免费抱走，学 AI 不用再找第二份

不管你是 0 基础想入门 AI 大模型，还是有基础想冲刺大厂、了解行业趋势，这份资料都能满足你！
现在只需按照提示操作，就能免费领取：

👇👇扫码免费领取全部内容👇👇

​

2025 年想抓住 AI 大模型的风口？别犹豫，这份免费资料就是你的 “起跑线”！