A list of AI memory projects( AI长期记忆的开源和商业项目列表)
See the code这是一个专注于大语言模型(LLM)长期记忆(Long-term Memory)实现的精选列表,覆盖从底层检索/存储范式、记忆层系统、Agent 记忆工具,到多模态一致性、训练与对齐的完整生态。
| 名称 | 来源 | 核心贡献 |
|---|---|---|
| AgeMem(Agentic Memory) | arXiv 2601.01885 · ACL 2026 SAC Highlight | 把 LTM/STM 的存储、检索、更新、摘要、丢弃统一为 agent 工具动作,三阶段渐进式 RL + step-wise GRPO 训练,消除启发式控制器。 |
| TriMem | arXiv 2605.19952 | 突破"抽取原子事实"范式,同时维护原始对话、原子事实、合成画像三种粒度;TextGrad 迭代优化抽取/画像提示,无参数终身演化。 |
| Infini Memory | arXiv 2606.10677 | 把记忆组织成可维护的"主题文档",新观测先入缓冲再周期合并;推理时用迭代式工具调用读取记忆,MemoryAgentBench 达 64.7%。 |
| MOSAIC | arXiv 2607.16211 | 冲突感知的结构化长期记忆,显式检测事实冲突(命中 66% vs 基线 14%),LoCoMo 准确率 89.35%。 |
| H-MEM | EACL 2026 | 四层层次化记忆(领域→子域→关键词→事件/画像),前三层作为可解释索引提升长程推理效率。 |
| Titans-as-a-Layer(MAL) | arXiv 2606.08573 | 把 Titans 式测试时神经记忆做成即插即用的 Memory-as-a-Layer 适配器,为音频大模型注入对话历史而不改主干。 |
| MemDelta | arXiv 2606.29914 | 指出 agent 记忆评测中的隐藏混淆变量并给出受控基线,质疑此前评测结论的可比性。 |
| Diagnosing Retrieval vs. Utilization | arXiv 2603.02473 | 实证发现:检索质量对最终效果的影响远大于写入/压缩策略,原始分块即可媲美复杂事实抽取。 |
| How Memory Management Impacts LLM Agents | ACL 2026 | 系统研究"经验跟随"行为,揭示错误传播与错位经验回放,提出基于历史的记忆删除策略。 |
完整清单见 docs/memory-evaluation-benchmarks.md。
| 基准 | 来源 | 评测重点 |
|---|---|---|
| MemoryAgentBench | ICLR 2026 · GitHub | 四维能力:精确检索、测试时学习、长程理解、选择性遗忘;新增 EventQA 与 FactConsolidation。 |
| MemoryArena | ICML 2026 · GitHub | 多会话 Memory-Agent-Environment 闭环,子任务相互依赖(网页导航/偏好规划/渐进搜索/形式推理)。 |
| Memoria-Bench | ICML 2026 · 论文 | 长程自主 agent 的情景/语义/程序记忆,覆盖深度研究、代码、表格任务;揭示百万 token 上下文仍存在的记忆瓶颈。 |
| AMA-Bench | ICML 2026 · GitHub | 长程 agent 轨迹(状态/动作/观测/工具输出)的长上下文保留与长时程记忆表现。 |
| HaluMem | arXiv 2511.03506 | 首个操作级记忆幻觉基准,拆解抽取 / 更新 / 问答三阶段。 |
| LongMemEval-V2 | arXiv 2605.12493 | 面向 web agent 环境经验(静态/动态状态、工作流、坑点、前提感知),历史轨迹最长 115M tokens。 |
| Mem-Gallery | ACL 2026 | 多模态长程对话记忆,评测 MLLM agent 的抽取/测试时适应、推理与知识管理。 |
| Mem2ActBench | ACL 2026 | 评测 agent 能否主动用长期记忆驱动工具选择与参数落地(非被动问答)。 |
| EverMemBench | arXiv 2602.01313 | 多方职场对话,细粒度召回 / 记忆意识 / 用户画像理解。 |
| Memora | ACL 2026 · arXiv 2604.20006 | 面向个性化 agent,同时给"该记住"与"该忘记(已删除/更新)"打分,提出 FAMA 指标。 |
| MemoryBench | arXiv 2510.17281 | 记忆 + 持续学习,on-policy / off-policy 交互模拟。 |
| BEAM | ICLR 2026 | 百万 token 级长期记忆的召回与增强。 |
理解下面各项目的定位,需要先把记忆技术的发展脉络理清。以下按时间顺序列出经过验证的关键里程碑(年份/机构以原始论文为准)。
演进主线:外部检索(RAG)→ Agent 记忆流与反思(Generative Agents / MemGPT)→ 记忆压缩与图谱化(ReadAgent / GraphRAG / HippoRAG / Memory3)→ 生产级记忆层(Mem0 / A-MEM / Zep)→ 架构内神经长期记忆(Titans)→ 可学习的记忆管理 + 操作级评测(AgeMem / TriMem / MemoryAgentBench)。记忆正从"提示词里塞资料"走向"模型自身学会记住、并学会管理该记什么"。
这类项目提供逻辑复杂的记忆管理,支持多用户、多会话、自动摘要与知识提取。
| 名称 | GitHub 网址 | 类型 | 存储类型 | 特点 |
|---|---|---|---|---|
| Mem0 | mem0ai/mem0 | 托管/开源 | 图形 + 向量 | 智能记忆层,含向量版 Mem0 与图谱版 Mem0g,支持跨用户/会话记忆。 |
| Memobase | memodb-io/memobase | 开源 | Profile-based | 专注于事件演化与人物画像的长期记忆管理。 |
| Graphiti | getzep/graphiti | 开源 | 时序知识图谱 | Zep Core 开源版,专注随时间演变的动态关联知识存储。 |
| LangMem | langchain-ai/langmem | 开源 | 向量 + 属性 | LangChain 官方长期记忆,自动提取、整合并更新知识。 |
| Zep AI | getzep/zep | 托管/开源 | 图形 + 向量 | 聊天记忆平台,提供情感分析与深度总结功能。 |
| Letta | letta-ai/letta | 托管/开源 | 分层存储 | 原 MemGPT,将记忆视为操作系统的多级缓存(RAM/Disk)。 |
| SimpleMem | aiming-lab/SimpleMem | 开源 | 多模态 | 终身记忆层,支持跨对话的项目历史记忆,含多模态能力。 |
| MemoryOS | BAI-LAB/MemoryOS | 开源 | 分层存储 | 借鉴操作系统内存分页思想的分层记忆管理(arXiv 2506.06326),常被作为记忆评测基线。 |
适合个人开发者、单机 Agent 或集成到特定办公流程的项目。
| 名称 | GitHub 网址 | 类型 | 特点 |
|---|---|---|---|
| NovelGenerator | KazKozDev/NovelGenerator | 多代理 | 跟踪人物视角、情节线与情感弧,适合生成完整小说。 |
| AgentCortex | sage-hq/agentcortex-mcp | MCP | 原生 MCP 记忆系统,支持 Cursor 和 Claude Desktop。 |
| Basic Memory | basicmachines-co/basic-memory | MCP/SQLite | 基于 SQLite 与 Markdown,极其隐私友好,适合本地知识库。 |
| Nano-GraphRAG | gusye1234/nano-graphrag | 本地优化 | 极轻量级 GraphRAG 实现,适合资源受限环境。 |
| SimpleMem | aiming-lab/SimpleMem | 开源 | 终身记忆层,支持跨对话的项目历史记忆。 |
| Supermemory | supermemoryai/supermemory | 云原生 | 基于 Cloudflare 生态,构建分布式的个人 AI 记忆大脑。 |
| Khoj | khoj-ai/khoj | 多端 | 个人 AI 副驾驶,深度集成 Markdown 文档与笔记。 |
深度集成了长期记忆管理能力的通用 AI 开发框架。
| 名称 | GitHub 网址 | 核心能力 |
|---|---|---|
| LlamaIndex | run-llama/llama_index | 提供 Property Graph Index 和多种叙事增强的索引模式。 |
| LangChain | langchain-ai/langchain | 内置多种 Memory 组件,支持与各类向量库无缝对接。 |
为上述记忆层提供物理支撑的基础数据库。
| 分类 | 推荐项目 | 核心能力 |
|---|---|---|
| 向量数据库 | Chroma, Milvus, Qdrant, Weaviate | 高效的语义相似度搜索与混合检索。 |
| 图数据库 | Neo4j | 复杂的实体关系推理与深度关联分析。 |
| 记忆与检索服务 | GoodMem(LlamaIndex 集成) | 按空间持久保存 Agent 上下文,提供语义检索与重排序;内置只读 HTTP MCP;可自托管(专有核心、免费二进制许可)或使用托管云服务。 |
专注于在训练阶段或架构层面提升 LLM 记忆能力的先进研究。
| 名称 | GitHub 网址 | 焦点内容 |
|---|---|---|
| Titans | google-research/titans | Google 提出的经由神经记忆模块提升长文本处理的架构。 |
| HOMER | alinlab/HOMER | 层次上下文合并(ICLR 2024),高效扩展上下文长度。 |
| Memory3 | BAAI-Agents/Memory3 | BAAI 提出的显性记忆大模型,将知识外挂为稀疏记忆模块。 |
| AgeMem | arXiv 2601.01885 | 用强化学习统一学习 LTM/STM 的存储、检索、更新与遗忘策略(ACL 2026)。 |
| Titans-as-a-Layer | arXiv 2606.08573 | 即插即用的测试时记忆适配层(MAL),可扩展至音频多模态。 |
| Awesome LLM Pre-training | RUCAIBox/awesome-llm-pretraining | 预训练策略、架构改进(如 Ultra-Sparse Memory)研究精选。 |
利用模型上下文协议(MCP)或特定工具调用(Skills)为模型注入持久记忆的能力。
| 名称 | GitHub 网址 | 类型 | 特点 |
|---|---|---|---|
| memento-mcp | gannonh/memento-mcp | MCP | 知识图谱驱动的记忆系统,支持语义检索与时间感知。 |
| OpenClaw Skills | VoltAgent/awesome-openclaw-skills | Skills | 包含 Git-notes 记忆、LanceDB 三重记忆等 OpenClaw 专属技能。 |
| mcp-memory | samwang0723/mcp-memory | MCP/Redis | 使用 Redis Graph 作为后端的知识图谱 MCP 服务器。 |
| Memorix | avids2/memorix | MCP | 本地优先的跨工具共享记忆层,支持 Claude Code / Codex / Cursor / OpenCode 等。 |
| mcp-memory (OKF) | fellowgeek/mcp-memory | MCP/SQLite | 基于 Open Knowledge Format v0.2 + SQLite FTS5 的持久记忆服务,Markdown 可读可审计。 |
在生成图像和视频时维持角色形象、画风及音色一致性的专用工具与算法。
| 分类 | 推荐项目 | GitHub 网址 | 核心特性 |
|---|---|---|---|
| 视觉一致性 | StoryMaker, IP-Adapter | FireRedTeam/StoryMaker | 维持人物脸部、发型、服装跨帧/跨提示词的一致。 |
| 视频连贯性 | ConsistI2V | TIGER-AI-Lab/ConsistI2V | Image-to-Video 一致性,保持布局与运动连贯。 |
| 语音音色克隆 | Amphion, Bark | open-mmlab/Amphion | 高保真零样本声模仿,确保小说配音音色统一。 |
确保大规模模型在多 GPU/多节点训练过程中参数与梯度的绝对同步。
| 工具/算法 | 类型 | 关键特性 |
|---|---|---|
| Megatron-LM | 框架 | NVIDIA 出品,提供极致的模型并行(TP/PP)效率。 |
| DeepSpeed | 优化器/框架 | Microsoft ZeRO 技术,显存分片与大规模训练的标配。 |
| FSDP | 原生并行 | PyTorch 内置,全分片数据并行,ZeRO-3 的高性能替代。 |
在 Agent 团队协作过程中,确保共享状态、任务进度及上下文记忆的一致性。
| 项目名称 | 协调机制 | 特点 |
|---|---|---|
| DeMAC | 去中心化 | 消除 Zeno 效应,适合 1:1 动态响应的多代理系统。 |
| Nexus Agents | Redis 通信 | 基于 Redis 的 A2A 通信,实时跟踪多代理研究进度。 |
防止模型在与用户实时互动或在线微调(RLHF)过程中出现质量雪崩与价值观漂移。
| 名称 | GitHub 网址 | 核心特性 |
|---|---|---|
| OpenRLHF | OpenRLHF/OpenRLHF | 分布式 PPO/GRPO,包含严谨的 KL 散度约束防止对齐崩溃。 |
| Online-RLHF | RLHFlow/Online-RLHF | 专注于在线迭代反馈,复现 LLaMA3 级模型的高稳定性。 |
确保 LLM 在适应新场景、新领域时,不会产生灾难性遗忘,维持长期记忆的连续性。
| 名称 | GitHub 网址 | 算法背景 |
|---|---|---|
| ContinualLM | UIC-Liu-Lab/ContinualLM | 领域自适应持续预训练框架,支持大规模增量学习。 |
| CURLoRA | MNoorFawi/curlora | 结合 CUR 分解的 LoRA 持续微调,兼具低开销与高稳定性。 |
| Awesome Lifelong | zzz47zzz/awesome-lifelong-learning | 汇总了包括 EWC、回放缓冲在内的所有主流防遗忘方案。 |
下面用鱼骨图(因果骨架图)梳理"大模型记忆能力从何而来"的几条主线,便于快速建立全局认知。鱼头是"LLM 长期记忆能力",骨架上的每条"大骨"是一个技术维度,分支是代表性工作。
┌─ RAG (2020, Meta) ................ 参数外记忆基础
├─ GraphRAG (2024, MS) ........... 图谱 + 社区摘要
检索/外部记忆 ──────┼─ HippoRAG (2024) ............... 海马体索引 + PPR
└─ Memory3 (2024, BAAI) .......... 显性/稀疏记忆模块
│
├─ Generative Agents (2023) . 记忆流 + 反思
├─ MemGPT / Letta (2023) .... 虚拟上下文分层
机制/架构记忆 ─────────────┼─ LongMem (2023) ............ 冻结编码 + 缓存库
├─ ReadAgent (2024) ......... 分页 + gist 压缩
├─ Titans (2024-25, Google) . 神经长期记忆 + 测试时学习
└─ Titans-as-a-Layer (2026) . 记忆层化,即插即用
│
├─ MemoryBank (2023) ........ 遗忘曲线衰减
生产级记忆层 ──────────────┼─ Mem0 / Mem0g (2025) ...... 向量 + 图谱记忆层
├─ Zep / Graphiti ........... 时序知识图谱
└─ A-MEM (2025) ............. Zettelkasten 自主演化
│
├─ AgeMem (2026) ............ RL 学习记忆管理策略
可学习记忆管理 (2026) ─────┼─ TriMem (2026) ............. 多粒度 + 无参数演化
├─ Infini Memory (2026) ..... 主题文档 + 事实修订
└─ MOSAIC (2026) ............ 冲突感知结构化记忆
│
├─ MemoryAgentBench (ICLR'26) 四维能力解耦
评测体系 (2026) ───────────┼─ MemoryArena / Memoria-Bench 多会话 agentic
├─ HaluMem ................... 操作级幻觉
└─ LongMemEval-V2 ............ 环境经验记忆
│
├─ MCP: AgentCortex / memento-mcp
工具/协议生态 ─────────────┼─ 本地优先: Basic Memory / Memorix / OKF
└─ 技能: OpenClaw Skills
│
├─ 多模态: StoryMaker / ConsistI2V / Amphion
垂直场景延展 ──────────────┼─ 叙事: NovelGenerator
└─ 多代理: DeMAC / Nexus Agents
│
LLM 长期记忆能力 ◄───────────────────────────┘
(鱼头)
阅读方法:从左上"检索/外部记忆"到右下"垂直场景延展",技术由"通用范式"逐步下沉到"架构内记忆"并扩散到具体场景。每条大骨彼此并非互斥——例如 Mem0 同时用到检索与图谱,Titans 把记忆写进架构,AgeMem 则把记忆管理本身交给策略学习。
欢迎提交 PR 补充新的优质项目!请确保提供的 GitHub 链接真实有效、描述与官方定位一致。
A list of AI memory projects( AI长期记忆的开源和商业项目列表)
See the code这是一个专注于大语言模型(LLM)长期记忆(Long-term Memory)实现的精选列表,覆盖从底层检索/存储范式、记忆层系统、Agent 记忆工具,到多模态一致性、训练与对齐的完整生态。
| 名称 | 来源 | 核心贡献 |
|---|---|---|
| AgeMem(Agentic Memory) | arXiv 2601.01885 · ACL 2026 SAC Highlight | 把 LTM/STM 的存储、检索、更新、摘要、丢弃统一为 agent 工具动作,三阶段渐进式 RL + step-wise GRPO 训练,消除启发式控制器。 |
| TriMem | arXiv 2605.19952 | 突破"抽取原子事实"范式,同时维护原始对话、原子事实、合成画像三种粒度;TextGrad 迭代优化抽取/画像提示,无参数终身演化。 |
| Infini Memory | arXiv 2606.10677 | 把记忆组织成可维护的"主题文档",新观测先入缓冲再周期合并;推理时用迭代式工具调用读取记忆,MemoryAgentBench 达 64.7%。 |
| MOSAIC | arXiv 2607.16211 | 冲突感知的结构化长期记忆,显式检测事实冲突(命中 66% vs 基线 14%),LoCoMo 准确率 89.35%。 |
| H-MEM | EACL 2026 | 四层层次化记忆(领域→子域→关键词→事件/画像),前三层作为可解释索引提升长程推理效率。 |
| Titans-as-a-Layer(MAL) | arXiv 2606.08573 | 把 Titans 式测试时神经记忆做成即插即用的 Memory-as-a-Layer 适配器,为音频大模型注入对话历史而不改主干。 |
| MemDelta | arXiv 2606.29914 | 指出 agent 记忆评测中的隐藏混淆变量并给出受控基线,质疑此前评测结论的可比性。 |
| Diagnosing Retrieval vs. Utilization | arXiv 2603.02473 | 实证发现:检索质量对最终效果的影响远大于写入/压缩策略,原始分块即可媲美复杂事实抽取。 |
| How Memory Management Impacts LLM Agents | ACL 2026 | 系统研究"经验跟随"行为,揭示错误传播与错位经验回放,提出基于历史的记忆删除策略。 |
完整清单见 docs/memory-evaluation-benchmarks.md。
| 基准 | 来源 | 评测重点 |
|---|---|---|
| MemoryAgentBench | ICLR 2026 · GitHub | 四维能力:精确检索、测试时学习、长程理解、选择性遗忘;新增 EventQA 与 FactConsolidation。 |
| MemoryArena | ICML 2026 · GitHub | 多会话 Memory-Agent-Environment 闭环,子任务相互依赖(网页导航/偏好规划/渐进搜索/形式推理)。 |
| Memoria-Bench | ICML 2026 · 论文 | 长程自主 agent 的情景/语义/程序记忆,覆盖深度研究、代码、表格任务;揭示百万 token 上下文仍存在的记忆瓶颈。 |
| AMA-Bench | ICML 2026 · GitHub | 长程 agent 轨迹(状态/动作/观测/工具输出)的长上下文保留与长时程记忆表现。 |
| HaluMem | arXiv 2511.03506 | 首个操作级记忆幻觉基准,拆解抽取 / 更新 / 问答三阶段。 |
| LongMemEval-V2 | arXiv 2605.12493 | 面向 web agent 环境经验(静态/动态状态、工作流、坑点、前提感知),历史轨迹最长 115M tokens。 |
| Mem-Gallery | ACL 2026 | 多模态长程对话记忆,评测 MLLM agent 的抽取/测试时适应、推理与知识管理。 |
| Mem2ActBench | ACL 2026 | 评测 agent 能否主动用长期记忆驱动工具选择与参数落地(非被动问答)。 |
| EverMemBench | arXiv 2602.01313 | 多方职场对话,细粒度召回 / 记忆意识 / 用户画像理解。 |
| Memora | ACL 2026 · arXiv 2604.20006 | 面向个性化 agent,同时给"该记住"与"该忘记(已删除/更新)"打分,提出 FAMA 指标。 |
| MemoryBench | arXiv 2510.17281 | 记忆 + 持续学习,on-policy / off-policy 交互模拟。 |
| BEAM | ICLR 2026 | 百万 token 级长期记忆的召回与增强。 |
理解下面各项目的定位,需要先把记忆技术的发展脉络理清。以下按时间顺序列出经过验证的关键里程碑(年份/机构以原始论文为准)。
演进主线:外部检索(RAG)→ Agent 记忆流与反思(Generative Agents / MemGPT)→ 记忆压缩与图谱化(ReadAgent / GraphRAG / HippoRAG / Memory3)→ 生产级记忆层(Mem0 / A-MEM / Zep)→ 架构内神经长期记忆(Titans)→ 可学习的记忆管理 + 操作级评测(AgeMem / TriMem / MemoryAgentBench)。记忆正从"提示词里塞资料"走向"模型自身学会记住、并学会管理该记什么"。
这类项目提供逻辑复杂的记忆管理,支持多用户、多会话、自动摘要与知识提取。
| 名称 | GitHub 网址 | 类型 | 存储类型 | 特点 |
|---|---|---|---|---|
| Mem0 | mem0ai/mem0 | 托管/开源 | 图形 + 向量 | 智能记忆层,含向量版 Mem0 与图谱版 Mem0g,支持跨用户/会话记忆。 |
| Memobase | memodb-io/memobase | 开源 | Profile-based | 专注于事件演化与人物画像的长期记忆管理。 |
| Graphiti | getzep/graphiti | 开源 | 时序知识图谱 | Zep Core 开源版,专注随时间演变的动态关联知识存储。 |
| LangMem | langchain-ai/langmem | 开源 | 向量 + 属性 | LangChain 官方长期记忆,自动提取、整合并更新知识。 |
| Zep AI | getzep/zep | 托管/开源 | 图形 + 向量 | 聊天记忆平台,提供情感分析与深度总结功能。 |
| Letta | letta-ai/letta | 托管/开源 | 分层存储 | 原 MemGPT,将记忆视为操作系统的多级缓存(RAM/Disk)。 |
| SimpleMem | aiming-lab/SimpleMem | 开源 | 多模态 | 终身记忆层,支持跨对话的项目历史记忆,含多模态能力。 |
| MemoryOS | BAI-LAB/MemoryOS | 开源 | 分层存储 | 借鉴操作系统内存分页思想的分层记忆管理(arXiv 2506.06326),常被作为记忆评测基线。 |
适合个人开发者、单机 Agent 或集成到特定办公流程的项目。
| 名称 | GitHub 网址 | 类型 | 特点 |
|---|---|---|---|
| NovelGenerator | KazKozDev/NovelGenerator | 多代理 | 跟踪人物视角、情节线与情感弧,适合生成完整小说。 |
| AgentCortex | sage-hq/agentcortex-mcp | MCP | 原生 MCP 记忆系统,支持 Cursor 和 Claude Desktop。 |
| Basic Memory | basicmachines-co/basic-memory | MCP/SQLite | 基于 SQLite 与 Markdown,极其隐私友好,适合本地知识库。 |
| Nano-GraphRAG | gusye1234/nano-graphrag | 本地优化 | 极轻量级 GraphRAG 实现,适合资源受限环境。 |
| SimpleMem | aiming-lab/SimpleMem | 开源 | 终身记忆层,支持跨对话的项目历史记忆。 |
| Supermemory | supermemoryai/supermemory | 云原生 | 基于 Cloudflare 生态,构建分布式的个人 AI 记忆大脑。 |
| Khoj | khoj-ai/khoj | 多端 | 个人 AI 副驾驶,深度集成 Markdown 文档与笔记。 |
深度集成了长期记忆管理能力的通用 AI 开发框架。
| 名称 | GitHub 网址 | 核心能力 |
|---|---|---|
| LlamaIndex | run-llama/llama_index | 提供 Property Graph Index 和多种叙事增强的索引模式。 |
| LangChain | langchain-ai/langchain | 内置多种 Memory 组件,支持与各类向量库无缝对接。 |
为上述记忆层提供物理支撑的基础数据库。
| 分类 | 推荐项目 | 核心能力 |
|---|---|---|
| 向量数据库 | Chroma, Milvus, Qdrant, Weaviate | 高效的语义相似度搜索与混合检索。 |
| 图数据库 | Neo4j | 复杂的实体关系推理与深度关联分析。 |
| 记忆与检索服务 | GoodMem(LlamaIndex 集成) | 按空间持久保存 Agent 上下文,提供语义检索与重排序;内置只读 HTTP MCP;可自托管(专有核心、免费二进制许可)或使用托管云服务。 |
专注于在训练阶段或架构层面提升 LLM 记忆能力的先进研究。
| 名称 | GitHub 网址 | 焦点内容 |
|---|---|---|
| Titans | google-research/titans | Google 提出的经由神经记忆模块提升长文本处理的架构。 |
| HOMER | alinlab/HOMER | 层次上下文合并(ICLR 2024),高效扩展上下文长度。 |
| Memory3 | BAAI-Agents/Memory3 | BAAI 提出的显性记忆大模型,将知识外挂为稀疏记忆模块。 |
| AgeMem | arXiv 2601.01885 | 用强化学习统一学习 LTM/STM 的存储、检索、更新与遗忘策略(ACL 2026)。 |
| Titans-as-a-Layer | arXiv 2606.08573 | 即插即用的测试时记忆适配层(MAL),可扩展至音频多模态。 |
| Awesome LLM Pre-training | RUCAIBox/awesome-llm-pretraining | 预训练策略、架构改进(如 Ultra-Sparse Memory)研究精选。 |
利用模型上下文协议(MCP)或特定工具调用(Skills)为模型注入持久记忆的能力。
| 名称 | GitHub 网址 | 类型 | 特点 |
|---|---|---|---|
| memento-mcp | gannonh/memento-mcp | MCP | 知识图谱驱动的记忆系统,支持语义检索与时间感知。 |
| OpenClaw Skills | VoltAgent/awesome-openclaw-skills | Skills | 包含 Git-notes 记忆、LanceDB 三重记忆等 OpenClaw 专属技能。 |
| mcp-memory | samwang0723/mcp-memory | MCP/Redis | 使用 Redis Graph 作为后端的知识图谱 MCP 服务器。 |
| Memorix | avids2/memorix | MCP | 本地优先的跨工具共享记忆层,支持 Claude Code / Codex / Cursor / OpenCode 等。 |
| mcp-memory (OKF) | fellowgeek/mcp-memory | MCP/SQLite | 基于 Open Knowledge Format v0.2 + SQLite FTS5 的持久记忆服务,Markdown 可读可审计。 |
在生成图像和视频时维持角色形象、画风及音色一致性的专用工具与算法。
| 分类 | 推荐项目 | GitHub 网址 | 核心特性 |
|---|---|---|---|
| 视觉一致性 | StoryMaker, IP-Adapter | FireRedTeam/StoryMaker | 维持人物脸部、发型、服装跨帧/跨提示词的一致。 |
| 视频连贯性 | ConsistI2V | TIGER-AI-Lab/ConsistI2V | Image-to-Video 一致性,保持布局与运动连贯。 |
| 语音音色克隆 | Amphion, Bark | open-mmlab/Amphion | 高保真零样本声模仿,确保小说配音音色统一。 |
确保大规模模型在多 GPU/多节点训练过程中参数与梯度的绝对同步。
| 工具/算法 | 类型 | 关键特性 |
|---|---|---|
| Megatron-LM | 框架 | NVIDIA 出品,提供极致的模型并行(TP/PP)效率。 |
| DeepSpeed | 优化器/框架 | Microsoft ZeRO 技术,显存分片与大规模训练的标配。 |
| FSDP | 原生并行 | PyTorch 内置,全分片数据并行,ZeRO-3 的高性能替代。 |
在 Agent 团队协作过程中,确保共享状态、任务进度及上下文记忆的一致性。
| 项目名称 | 协调机制 | 特点 |
|---|---|---|
| DeMAC | 去中心化 | 消除 Zeno 效应,适合 1:1 动态响应的多代理系统。 |
| Nexus Agents | Redis 通信 | 基于 Redis 的 A2A 通信,实时跟踪多代理研究进度。 |
防止模型在与用户实时互动或在线微调(RLHF)过程中出现质量雪崩与价值观漂移。
| 名称 | GitHub 网址 | 核心特性 |
|---|---|---|
| OpenRLHF | OpenRLHF/OpenRLHF | 分布式 PPO/GRPO,包含严谨的 KL 散度约束防止对齐崩溃。 |
| Online-RLHF | RLHFlow/Online-RLHF | 专注于在线迭代反馈,复现 LLaMA3 级模型的高稳定性。 |
确保 LLM 在适应新场景、新领域时,不会产生灾难性遗忘,维持长期记忆的连续性。
| 名称 | GitHub 网址 | 算法背景 |
|---|---|---|
| ContinualLM | UIC-Liu-Lab/ContinualLM | 领域自适应持续预训练框架,支持大规模增量学习。 |
| CURLoRA | MNoorFawi/curlora | 结合 CUR 分解的 LoRA 持续微调,兼具低开销与高稳定性。 |
| Awesome Lifelong | zzz47zzz/awesome-lifelong-learning | 汇总了包括 EWC、回放缓冲在内的所有主流防遗忘方案。 |
下面用鱼骨图(因果骨架图)梳理"大模型记忆能力从何而来"的几条主线,便于快速建立全局认知。鱼头是"LLM 长期记忆能力",骨架上的每条"大骨"是一个技术维度,分支是代表性工作。
┌─ RAG (2020, Meta) ................ 参数外记忆基础
├─ GraphRAG (2024, MS) ........... 图谱 + 社区摘要
检索/外部记忆 ──────┼─ HippoRAG (2024) ............... 海马体索引 + PPR
└─ Memory3 (2024, BAAI) .......... 显性/稀疏记忆模块
│
├─ Generative Agents (2023) . 记忆流 + 反思
├─ MemGPT / Letta (2023) .... 虚拟上下文分层
机制/架构记忆 ─────────────┼─ LongMem (2023) ............ 冻结编码 + 缓存库
├─ ReadAgent (2024) ......... 分页 + gist 压缩
├─ Titans (2024-25, Google) . 神经长期记忆 + 测试时学习
└─ Titans-as-a-Layer (2026) . 记忆层化,即插即用
│
├─ MemoryBank (2023) ........ 遗忘曲线衰减
生产级记忆层 ──────────────┼─ Mem0 / Mem0g (2025) ...... 向量 + 图谱记忆层
├─ Zep / Graphiti ........... 时序知识图谱
└─ A-MEM (2025) ............. Zettelkasten 自主演化
│
├─ AgeMem (2026) ............ RL 学习记忆管理策略
可学习记忆管理 (2026) ─────┼─ TriMem (2026) ............. 多粒度 + 无参数演化
├─ Infini Memory (2026) ..... 主题文档 + 事实修订
└─ MOSAIC (2026) ............ 冲突感知结构化记忆
│
├─ MemoryAgentBench (ICLR'26) 四维能力解耦
评测体系 (2026) ───────────┼─ MemoryArena / Memoria-Bench 多会话 agentic
├─ HaluMem ................... 操作级幻觉
└─ LongMemEval-V2 ............ 环境经验记忆
│
├─ MCP: AgentCortex / memento-mcp
工具/协议生态 ─────────────┼─ 本地优先: Basic Memory / Memorix / OKF
└─ 技能: OpenClaw Skills
│
├─ 多模态: StoryMaker / ConsistI2V / Amphion
垂直场景延展 ──────────────┼─ 叙事: NovelGenerator
└─ 多代理: DeMAC / Nexus Agents
│
LLM 长期记忆能力 ◄───────────────────────────┘
(鱼头)
阅读方法:从左上"检索/外部记忆"到右下"垂直场景延展",技术由"通用范式"逐步下沉到"架构内记忆"并扩散到具体场景。每条大骨彼此并非互斥——例如 Mem0 同时用到检索与图谱,Titans 把记忆写进架构,AgeMem 则把记忆管理本身交给策略学习。
欢迎提交 PR 补充新的优质项目!请确保提供的 GitHub 链接真实有效、描述与官方定位一致。