declare-lab

delta-Mem

declare-lab

The official repo of the paper: $delta$-mem: Efficient Online Memory for Large Language Models

AI 简介

delta-mem 是一种面向大语言模型的轻量级在线记忆机制,通过低维关联记忆状态与 delta 规则更新实现高效动态记忆。其核心采用冻结全注意力主干+可增量更新的紧凑记忆模块设计,支持 TSW/SSW/MSW 三种写入策略,在推理时实时响应新输入并直接影响模型内部计算。项目提供 Qwen3 和 SmolLM3 等模型的适配实现、训练与评估脚本,以及交互式聊天演示。适用于需要长期交互记忆能力的智能体场景,如对话系统、任务导向型助手和持续学习型应用,兼顾记忆效率与计算开销。

Python
243
Stars
20
Forks
107
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天+7
综合评分41.67
默认分支main