
llama2.c
karpathy
Inference Llama 2 in one file of pure C
AI 简介
llama2.c 是一个用纯 C 语言实现的轻量级 Llama 2 大语言模型推理引擎,核心逻辑封装在单个约 700 行的 C 文件中,不依赖外部库。它支持加载 PyTorch 训练的 Llama 2 架构模型(如 TinyStories 微调模型),以 fp32 精度运行,适用于资源受限环境下的快速原型验证与教学演示。项目强调极简设计、可读性与教育价值,适合嵌入式设备探索、LLM 原理学习及小型领域模型本地部署,但暂不支持大模型(>7B)或量化推理。
C
MIT License19.7k
Stars
2.6k
Forks
206
Watchers
127
Issues
Star 增长
今日0
近 7 天0
近 30 天+36
综合评分73.6
默认分支master