
Soup
MakazhanAlpamys
Fine-tune LLMs from one YAML. Layer streaming trains an 8B model on a 4 GB laptop GPU.
AI 简介
Soup 是一个轻量级命令行工具,用于在资源受限设备(如配备4GB显存的笔记本GPU)上高效微调大语言模型。其核心采用层流式(layer streaming)技术,在训练时按需加载冻结的基础模型层,显著降低显存占用;支持通过单个YAML配置文件定义训练流程,并提供一键式命令(如 soup train)完成数据准备、微调与导出。适用于个人开发者、教育场景及边缘端LLM定制化需求,无需SSH或复杂环境配置。
Python
1.6k
Stars
262
Forks
0
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分52.26
默认分支main