I-DLM

I-DLM 是一种基于扩散机制的新型大语言模型架构，旨在实现与自回归（AR）模型相当的语言生成质量，同时显著提升推理吞吐量。其核心技术是“内省式跨步解码”（ISD），通过单次前向传播加概率验证机制，严格保证输出服从目标AR分布；支持标准AR推理栈（如SGLang、PagedAttention），无需定制硬件或特殊调度器；训练高效，仅需4.5B token即可完成模型转换。适用于对延迟敏感、高并发部署的生产级LLM服务场景，如实时对话系统、批量内容生成和云API推理服务。