czg1225

DMax

czg1225

DMax: Aggressive Parallel Decoding for dLLMs

AI 简介

DMax 是一种面向扩散式大语言模型(dLLM)的高效并行解码方法,旨在提升生成吞吐量而不牺牲质量。其核心功能包括激进的多令牌并行预测、基于软插值的置信度传播机制,以及内建的自修正能力,支持在数学推理与代码生成等任务中实现高吞吐(6.0–6.6 tokens per forward)且保持准确率。技术上融合了扩散建模思想与自回归解码优化,适用于对延迟敏感、需高吞吐推理的 dLLM 部署场景,如实时交互式AI服务或资源受限环境下的批量生成。

Python
Apache License 2.0
127
Stars
7
Forks
1
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天+1
综合评分42.81
默认分支main