
how-to-train-your-gpt
raiyanyahya
Build a modern LLM from scratch. Every line commented. Explained like we are five.
AI 简介
这是一个面向初学者的深度学习教育项目,旨在从零开始手把手实现现代大语言模型(LLM),涵盖分词器、嵌入层、注意力机制、训练循环与推理引擎等全部核心组件。项目采用LLaMA 3风格架构,所有3900+行代码均逐行注释并配以通俗类比和数学直觉解释,无需机器学习或高等数学基础,仅需Python编程基础即可上手。适合希望深入理解Transformer原理、LLM内部工作机制的开发者、学生和工程师,不用于生产部署,专注教学与概念验证。
Jupyter Notebook
MIT License2.3k
Stars
303
Forks
15
Watchers
2
Issues
Star 增长
今日0
近 7 天0
近 30 天+23
综合评分61.75
默认分支master