
LLaMA-Adapter
OpenGVLab
[ICLR 2024] Fine-tuning LLaMA to follow Instructions within 1 Hour and 1.2M Parameters
AI 简介
LLaMA-Adapter 是一个用于高效微调 LLaMA 语言模型以执行指令和多模态任务的轻量级方法。该项目通过零初始化注意力机制,能够在1小时内使用仅1.2M参数完成模型的微调,显著降低了计算资源的需求。其核心功能包括支持指令跟随和多模态处理,并且提供了预训练、微调及部署的完整工具链。适用于需要快速定制化调整大语言模型或开发跨模态应用的研究者与开发者,尤其是在资源有限的情况下寻求高性能解决方案的场景。
Python
GNU General Public License v3.05.9k
Stars
382
Forks
76
Watchers
109
Issues
Star 增长
今日0
近 7 天+2
近 30 天+2
综合评分64.95
默认分支main