Engram

Engram 是一种面向大语言模型的条件记忆机制，通过可扩展的查表式记忆模块实现知识的高效检索与复用。其核心是将静态知识以稀疏方式嵌入模型，支持常数时间（O(1)）查找，并与 MoE 等条件计算范式协同优化容量分配；采用确定性寻址设计，支持大规模嵌入表卸载至主机内存，显著降低推理开销。适用于需强化事实记忆、减少重复模式重建、提升知识密集型任务（如问答、代码生成、数学推理）性能的 LLM 架构改进场景。