DeepSeek-v4-Flash-DSpark-1M-NVFP4-KV-2x-DGX-Spark

该项目提供了一个在双节点NVIDIA DGX Spark集群上高效部署DeepSeek-V4-Flash-DSpark大语言模型的服务方案，支持150万token超长上下文、NVFP4量化KV缓存及DSpark推测解码技术，基于vLLM框架实现高并发低延迟推理。核心特点包括：采用nvfp4_ds_mla KV数据类型降低显存占用、TP=2张量并行、静态/交错并发调度验证、避免中文漂移与输出污染，并兼容确定性prompt响应。适用于需要超长上下文处理能力的AI代理（Agent）、代码生成、复杂工具调用等高可靠性生产级推理场景。