open-infra-index

DeepSeek Open Infra 是一套面向 AGI 开发的生产级 AI 基础设施工具集，聚焦大模型高效训练与推理的底层优化。核心包含 FlashMLA（Hopper 架构 MLA 解码内核）、DeepEP（MoE 模型专用 EP 通信库）、DeepGEMM（轻量高性能 FP8 GEMM 库）等模块，支持 Paged KV Cache、FP8/ BF16 精度、NVLink/RDMA 通信、计算-通信重叠等关键技术。适用于大规模 MoE 模型训练、高吞吐低延迟在线推理及国产化 AI 芯片适配等场景，强调真实生产验证与开源透明性。