Mind Lab 联合 NTU、复旦推出 δ-mem：8×8 矩阵让冻结 Transformer 拥有长期记忆

Type: article
Author: 机器之心Pro
Primary Topic: AI Agent
Ingested: 2026-06-10

Summary

δ-mem 是由南洋理工、复旦、Mind Lab 等机构联合提出的轻量级长期记忆方案，通过一个固定大小的 8×8 在线状态矩阵，在不扩展上下文窗口、不修改骨干架构的前提下，为冻结的 Transformer 赋予持续累积和复用历史信息的能力。其核心机制包括基于 Delta-rule 的记忆写入、低秩注意力修正引导，以及逐 token、段级、多状态并行三种写入粒度。实验显示在 MemoryAgentBench、LoCoMo、HotpotQA 等基准上均有显著提升，且参数开销极低（仅占原模型约 0.1%）。

Key Concepts

• 长期记忆
• Delta-rule学习
• 低秩修正
• 在线状态矩阵
• 参数高效微调
• Transformer记忆机制
• Agent记忆系统

Entities

• Mind Lab
• 南洋理工大学
• 复旦大学
• 上海交通大学
• 香港中文大学
• 香港科技大学
• 雷京迪
• 张迪
• Soujanya Poria
• δ-mem
• MemGPT
• MemoryBank
• Mem0
• Qwen3
• SmolLM3

Source

• Raw: delta-mem-8x8-matrix-long-term-memory-transformer.md

Relations

• (none)

---

Auto-generated on 2026-06-10