karpathy

minGPT

karpathy

A minimal PyTorch re-implementation of the OpenAI GPT (Generative Pretrained Transformer) training

AI 简介

minGPT 是一个极简、可读性强的 PyTorch 版 GPT 模型实现,完整支持训练与推理。核心包含约 300 行代码的 Transformer 架构、兼容 OpenAI 的字节对编码(BPE)和通用训练器模块,强调教育性与代码透明度。项目提供字符级语言建模、数值运算(如加法)等轻量级任务示例,适用于教学演示、算法原理理解及小规模模型实验场景,不面向工业级部署。

Python
MIT License
24.8k
Stars
3.3k
Forks
269
Watchers
49
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分70
默认分支master