
llama
meta-llama
Inference code for Llama models
AI 简介
这是一个已归档的Meta官方Llama模型推理代码仓库,提供加载和运行Llama 2系列(7B/13B/70B)开源大语言模型的基础Python示例。核心功能包括模型权重加载、Tokenizer初始化及文本生成推理流程,技术特点侧重轻量级、可复现的最小实现,依赖PyTorch并支持Hugging Face格式模型。适用于研究者与开发者快速验证Llama 2模型能力、构建原型或集成到自有推理管道中,但不包含训练、微调或安全防护等高级功能。
Python
Other59.5k
Stars
9.8k
Forks
537
Watchers
466
Issues
Star 增长
今日0
近 7 天0
近 30 天+30
综合评分45
默认分支main