Megatron-Bridge

NeMo Megatron Bridge 是一个用于训练和转换基于 Megatron-LM 架构大模型的工具库，支持与 Hugging Face 模型格式的双向互转（Megatron ↔ HF）。其核心功能包括检查点格式转换、SFT 微调、PEFT（如 LoRA）适配、多模态模型（文本/图像/视频/音频）支持，以及从自回归模型到扩散模型的跨范式转换。技术上深度集成 NVIDIA NeMo 和 Megatron-LM 生态，优化大规模分布式训练与推理流程。适用于需要在 Megatron 生产环境与 Hugging Face 开发生态间高效协同的研究团队和工程团队，尤其适合大模型预训练、微调、部署及多模态模型迁移场景。