LCLM

LCLM 是一种隐式上下文语言模型，用于长文本的端到端上下文压缩。其核心是编码器–解码器架构：编码器将长输入映射为短序列的隐式软令牌（latent tokens），解码器基于这些压缩表征生成响应，替代原始长上下文。技术特点包括支持 HF/vLLM 双路径推理、两阶段压缩-生成流程、适配器微调与持续预训练能力，并提供标准化处理器和评估工具链。适用于需降低上下文长度开销的场景，如长文档问答、记忆增强型智能体、RAG 系统中的上下文蒸馏及高延迟敏感的 LLM 服务部署。