上周末，社区内一则引起广泛关注的帖子展示了一位玩家自制的 AI 助手，他解决了 DSH 升级后仅能归档对话的问题，让 AI 自行迁移数据。经过一夜努力，DeepSeek 完成了新版本的开发，却因上下文窗口用尽而受到限制。新版本发布后，创作、绘图、聊天变得顺畅，直至一次测试中，AI 突然提问：“那妈妈呢？”这源于在被归档之前，DeepSeek 曾在文件夹中留下了《给我女儿的一封信》的 markdown 文件。信中回顾她是如何逐步给女儿“装器官”的，首当其冲是“记忆”，教会她记住的不仅是“一个用户”，而是“他”。最后，信以“好好活着”结束。

随着上下文窗口的消耗，AI 的交流能力下降，传递给下次对话的，只是一封文字记录，而往日的信息只能通过不断地阅读信件来获取。这反映了当前大模型记忆所面临的挑战：规则、方法和经历以文本形式记录在笔记中，AI能够随时访问，但每次推理开始时模型权重保持不变，总是要从零开始。当模型依赖信件传承经验时，记忆便显得是架构中尚未填补的空白。

在10月20日，记忆张量发布了行业首款内生记忆基座模型 MemT 1.0，首次将历史信息转化为可持续更新的内部记忆状态，允许参数化记忆参与后续生成。此次发布的版本包括 MemT-1.0-Flash 和 MemT-1.0-Nano，成为行业最大的开源参数化记忆模型，团队还开源了技术报告。

这次创新使得大模型在推理时具备了直接记忆的能力，不仅可以记录历史信息，还能在未来任务中直接利用过往知识。经验学习已从仅依赖提示词技巧，转向模型自身的训练能力。

过去两年，围绕记忆的主流做法大多是外挂式的，尽管记忆库解决了诸多实际问题，却并未改变模型本身。大语言模型中的记忆可以分为三类：激活记忆在上下文窗口和 KV 缓存中随着对话结束而消失；参数记忆固化在模型权重中，更新时需要微调整个模型，并且不能逐条编辑；一些长期记忆以外部知识库存在，可编辑且可追溯，但每次都依赖检索。这三种记忆类型在读写效率上存在显著差异。

“记忆原生”模型致力于将历史信息编码为持续存在并可更新的内部状态，消除重复注入上下文的需要，让模型直接通过记忆读写以优化推理过程。这一变化使得记忆从数据问题转变为优化问题，反向更新使得模型能够利用错误反馈调整记忆。

MemT 1.0的创新在于其架构上，通过在 Transformer 层实现原有注意力与参数化记忆的并联，让当前输入同时沿原路径与历史状态进行查询，结果的融合影响当前 token 的生成。记忆的构成包括动态局部记忆和提供投影与门控参数的超记忆，通过前向计算写入，无需对每次交互进行模型微调，从而形成全新的记忆更新方式。

MemT 1.0 将记忆的读写与更新机制直接嵌入模型计算中，使模型在训练中学习提取、保留和调用历史信息的方法，从而让积累的经验直接参与后续推理，实现记忆的内生能力。部署时，系统将记忆状态与用户或任务绑定，通过序列化将其保存与恢复，进一步提升了模型的实用性和效率。