ddtree-mlx

DDTree-MLX 是一个面向 Apple Silicon 的树状推测解码（speculative decoding）推理加速库，专为 MLX 框架优化。它通过构建基于每位置 logits 的候选 token 树，并在单次前向传播中并行验证整棵树，显著提升大语言模型（如 Qwen 3.5 27B）的生成吞吐量；相比 DFlash 加速约 10–15%，相较自回归解码提速 1.5 倍。项目首次在 MLX 中实现定制 Metal 内核，支持混合架构模型（如 GatedDeltaNet + Attention）。适用于代码生成、结构化/事实性文本等高 draft 接受率场景，输出严格保真、零损失。