Cola-DLM

Cola DLM 是一个基于连续潜在空间的扩散式语言模型，采用分层架构：文本变分自编码器（Text VAE）将文本映射到连续隐变量序列，块因果扩散Transformer（DiT）在隐空间建模先验分布，条件解码器重构原始文本。其核心特点是将语义组织（隐空间扩散）与词元生成解耦，支持无填充扁平化推理，并原生兼容 Hugging Face Transformers 接口。适用于需要可控生成、隐空间编辑、长程结构建模或与扩散范式结合的语言生成研究与实验场景。