karpathy

autoresearch

karpathy

AI agents running research on single-GPU nanochat training automatically

AI 简介

这是一个让AI代理在单GPU上自动开展小型语言模型(LLM)训练研究的实验性框架。核心功能包括:AI代理自主修改训练代码(train.py)、执行5分钟限时训练、基于val_bpb指标评估并迭代优化模型结构与超参数;人类仅通过编辑program.md指导代理行为,prepare.py保持固定。技术特点是轻量级、时间受限、指标标准化(vocab-size无关),强调自动化科研闭环而非人工调参。适用于LLM基础研究探索、教学演示、资源受限环境下的算法快速验证及AI驱动科研范式验证等场景。

Python
90.7k
Stars
13.1k
Forks
702
Watchers
55
Issues

Star 增长

今日0
近 7 天0
近 30 天+2441
综合评分77
默认分支master