LlamaFactory

LLaMA Factory 是一个用于高效微调超过100种大型语言模型（LLMs）和视觉语言模型（VLMs）的统一框架。该项目支持多种微调技术，如LoRA、QLoRA以及参数高效微调（PEFT），并提供量化工具以减少模型大小和推理时间，适用于需要快速迭代模型的应用场景。此外，它还兼容主流的深度学习库如Hugging Face Transformers，并且可以在多种平台上运行，包括Colab、Docker及各大云服务商环境。无论是学术研究还是工业应用，特别是当面对资源受限或对模型性能有高要求的情况时，LLaMA Factory 都是一个理想的选择。