
minimind
jingyaogong
🧠「大模型」2小时完全从0训练64M的小参数LLM!Train a 64M-parameter LLM from scratch in just 2h!
AI 简介
MiniMind 是一个面向个人开发者的轻量级大语言模型全流程开源项目,支持从零开始训练仅64M参数的LLM。其核心特点是极简架构、全阶段原生PyTorch实现(覆盖预训练、SFT、LoRA、DPO、PPO等),单卡3090可在2小时内完成监督微调,训练成本低至约3元。项目强调可复现性与教学性,提供完整数据清洗、训练链路和多模态延伸(如MiniMind-V/O)。适用于AI初学者学习LLM原理、教学演示、边缘设备原型验证及低成本研究实验。
Python
Apache License 2.053.2k
Stars
6.9k
Forks
243
Watchers
24
Issues
Star 增长
今日0
近 7 天0
近 30 天+898
综合评分80
默认分支master