mistralai

mistral-finetune

mistralai

暂无描述

AI 简介

mistral-finetune 是一个轻量级 Python 工具库,专为高效微调 Mistral 系列大语言模型(如 Mistral-7B、Mistral-Large v2、Mistral-Nemo)设计。核心采用 LoRA(低秩自适应)技术,仅训练约1–2%的新增参数,在保持原模型权重冻结的前提下显著降低显存占用与计算开销;支持单卡(7B)至多卡(Large/Nemo)训练,并针对 A100/H100 GPU 优化。适用于需快速定制 Mistral 模型的场景,如领域适配、指令微调或私有数据对齐,但不追求跨架构通用性。

Python
Apache License 2.0
3.1k
Stars
317
Forks
47
Watchers
35
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分29.51
默认分支main