llama

该项目提供了Llama模型的推理代码，支持从70亿到700亿参数规模的预训练和微调语言模型。其核心功能是加载Llama 2模型并执行推理任务，采用Python语言编写。项目特别适合于需要基于大型语言模型进行实验、创新或开发应用的研究人员、开发者及企业使用。不过需要注意的是，此仓库已不再维护，官方建议用户转向其他几个指定的新仓库继续工作，这些新仓库涵盖了从基础模型到端到端系统的完整Llama Stack。