
DMax
czg1225
DMax: Aggressive Parallel Decoding for dLLMs
AI 简介
DMax 是一种面向扩散式大语言模型(dLLM)的高效并行解码方法,旨在提升生成吞吐量而不牺牲质量。其核心功能包括激进的多令牌并行预测、基于软插值的置信度传播机制,以及内建的自修正能力,支持在数学推理与代码生成等任务中实现高吞吐(6.0–6.6 tokens per forward)且保持准确率。技术上融合了扩散建模思想与自回归解码优化,适用于对延迟敏感、需高吞吐推理的 dLLM 部署场景,如实时交互式AI服务或资源受限环境下的批量生成。
Python
Apache License 2.0127
Stars
7
Forks
1
Watchers
1
Issues
Star 增长
今日0
近 7 天0
近 30 天+1
综合评分42.81
默认分支main