Qwen3.8-Flash-Next-Dual-DGX-Sparks

这是一个面向超大规模语言模型推理部署的生产级脚本工具，用于在两台NVIDIA DGX Spark（GB10/SM121）服务器上高效服务176B参数的NVFP4量化MoE模型Qwen3.8-Flash-Next-NVFP4。项目核心功能包括：单命令自动化完成权重同步、内核补丁容器构建、双节点张量并行启动；支持OpenAI兼容API（含chat、reasoning、tool calling）、1M-token上下文（YaRN）及NEXTN三阶段推测解码；关键技术创新在于修复了Qwen Sparse Attention在SM121架构上的CuTe编译错误，并实现统一内存数学计算以避免大模型OOM。适用于需要低延迟、高吞吐MoE模型推理的AI基础设施场景，如企业级AI服务中台或研究集群部署。