LoongForge

LoongForge 是一个面向大语言模型、多模态模型、扩散模型及具身智能模型的模块化、可扩展、高性能训练框架。它基于 Megatron-LM 深度优化，支持预训练、持续预训练和监督微调，具备跨模型架构统一抽象、原生支持 NVIDIA GPU 与昆仑芯 XPU、高效通信与显存优化等技术特点，实测训练速度最高提升 5.04 倍。适用于需要在异构硬件（尤其是国产 XPU）上高效训练多类型 AI 模型的企业级研发、科研机构及云平台训练基础设施建设场景。