MUSE

MUSE是一个面向视觉tokenization的新型统一编码器，旨在解决生成与理解任务间因流形错位导致的梯度干扰问题。其核心技术是拓扑正交性，通过将注意力机制中的查询/键（结构流）与值（语义流）参数物理解耦，并引入梯度截断，实现结构重建与语义表征的协同优化。项目在生成质量（gFID 3.08）和下游理解性能（线性探针85.2%）上同步提升，适用于多模态预训练、统一视觉编码、生成式理解联合建模等需要兼顾图像重建与语义判别能力的场景。