
LLaMA-Adapter
OpenGVLab
[ICLR 2024] Fine-tuning LLaMA to follow Instructions within 1 Hour and 1.2M Parameters
AI 简介
LLaMA-Adapter 是一种轻量级参数高效微调方法,用于快速适配 LLaMA 系列大语言模型以支持指令遵循与多模态理解(如图文联合推理)。其核心采用零初始化注意力模块(Zero-init Attention),仅需约120万参数、1小时内即可完成微调,显著降低计算开销。技术上兼容 LLaMA/LLaMA2 架构,支持文本指令微调及视觉-语言联合建模(V2 版本)。适用于资源受限场景下的垂直领域模型定制、多模态小样本适配及教学/研究型快速原型验证。
Python
GNU General Public License v3.05.9k
Stars
382
Forks
75
Watchers
143
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分63.75
默认分支main