PaddleFormers

PaddleFormers 是一个基于 PaddlePaddle 框架的大语言模型与视觉语言模型训练库，提供与 Hugging Face Transformers 兼容的接口和全流程训练能力。核心功能包括对 DeepSeek-V3、GLM-4.5、Qwen2/3、Qwen3-VL、ERNIE-4.5-VL 等 100+ 主流模型的支持，内置张量/流水线/专家并行、FP8 训练、Data Packing、Padding Free、Function Call 与 Thinking 能力训练等高性能特性，并全面适配昆仑芯、天数天垓等国产 AI 芯片。适用于需要在国产软硬件生态中高效开展大模型预训练、SFT、DPO、LoRA 微调及多模态训练的研发场景。