DaoyuanLi2816

can-i-finetune-this

DaoyuanLi2816

Estimate whether a Hugging Face model fits and fine-tunes on your local GPU.

AI 简介

`can-i-finetune-this` 是一个用于估算Hugging Face模型是否适合在本地GPU上进行微调的工具。其核心功能包括预估模型所需的显存、推荐合适的批处理大小/序列长度/LoRA秩/量化方法等配置,并生成可直接运行的训练脚本。该工具基于Python开发,支持多种微调技术如LoRA、QLoRA以及PEFT库。适用于拥有消费级NVIDIA GPU的研究人员或开发者,在尝试对大型语言模型进行个性化调整前,通过它来避免因内存不足导致的任务失败,从而节省时间和资源。

Python
MIT License
429
Stars
63
Forks
51
Watchers
0
Issues

Star 增长

今日+22
近 7 天+107
近 30 天+379
综合评分95.42
默认分支main