ms-swift
modelscope
Use PEFT or Full-parameter to CPT/SFT/DPO/GRPO 600+ LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) and 300+ MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).
AI 简介
ms-swift 是一个面向大语言模型（LLM）和多模态大模型（MLLM）的轻量级、可扩展微调与部署框架。支持全参数微调及主流PEFT方法（如LoRA），覆盖600+文本大模型（Qwen3、DeepSeek-V4、Llama4等）和300+多模态模型（Qwen3-VL、InternVL3.5、Llava等），并集成SFT、CPT、DPO、GRPO等训练范式及Megatron分布式并行技术。适用于科研实验、产业级模型定制与高效推理部署场景。
Python
Apache License 2.014.7k
Stars
1.5k
Forks
50
Watchers
611
Issues
Star 增长
今日0
近 7 天0
近 30 天+100
综合评分44.54
默认分支main