
can-i-finetune-this
DaoyuanLi2816
Estimate whether a Hugging Face model fits and fine-tunes on your local GPU.
AI 简介
`can-i-finetune-this` 是一个用于估算Hugging Face模型是否适合在本地GPU上进行微调的工具。其核心功能包括预估模型所需的显存、推荐合适的批处理大小/序列长度/LoRA秩/量化方法等配置,并生成可直接运行的训练脚本。该工具基于Python开发,支持多种微调技术如LoRA、QLoRA以及PEFT库。适用于拥有消费级NVIDIA GPU的研究人员或开发者,在尝试对大型语言模型进行个性化调整前,通过它来避免因内存不足导致的任务失败,从而节省时间和资源。
Python
MIT License429
Stars
63
Forks
51
Watchers
0
Issues
Star 增长
今日+22
近 7 天+107
近 30 天+379
综合评分95.42
默认分支main