[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"project-80589":3},{"id":4,"name":5,"fullName":6,"owner":7,"repo":5,"description":8,"homepage":8,"htmlUrl":8,"language":9,"languages":8,"totalLinesOfCode":8,"stars":10,"forks":11,"watchers":12,"openIssues":13,"contributorsCount":13,"subscribersCount":13,"size":13,"stars1d":14,"stars7d":15,"stars30d":16,"stars90d":13,"forks30d":13,"starsTrendScore":17,"compositeScore":18,"rankGlobal":8,"rankLanguage":8,"license":8,"archived":19,"fork":19,"defaultBranch":20,"hasWiki":21,"hasPages":19,"topics":22,"createdAt":8,"pushedAt":8,"updatedAt":23,"readmeContent":24,"aiSummary":25,"trendingCount":13,"starSnapshotCount":13,"syncStatus":26,"lastSyncTime":27,"discoverSource":28},80589,"Re-Zero---Starting-LLM-","jiaran-king\u002FRe-Zero---Starting-LLM-","jiaran-king",null,"Python",173,5,53,0,7,40,113,32,80.33,false,"main",true,[],"2026-06-12 04:01:29","# LLM-start\n\n这是一个面向长期学习和复盘的 Obsidian LLM-WIKI，主要整理大语言模型相关知识、论文资料、工程框架和实验经验。\n\n仓库的目标是把资料逐步整理成可复用的知识网络：\n\n```text\n原始资料\n  -> 资料索引\n  -> 概念笔记\n  -> 主题地图\n  -> 项目 \u002F 实验沉淀\n```\n\n## 快速入口\n\n- [主页](00-首页与索引\u002F主页.md)\n- [LLM 学习地图](01-主题地图\u002F0.LLM学习地图.md)\n- [LLM 全流程总览](01-主题地图\u002F0a.LLM全流程总览.md)\n- [资料索引](05-资料摘录\u002F资料索引.md)\n- [LLM-WIKI 使用指南](00-首页与索引\u002FLLM-WIKI使用指南.md)\n\n## 主题地图\n\n`01-主题地图` 是本仓库的知识导航层。它只负责主题路由和概念入口，不直接堆原始资料。\n\n| 主题 | 说明 |\n|---|---|\n| [基础架构](01-主题地图\u002F基础架构.md) | Tokenizer、Embedding、Transformer、Attention、位置编码、激活函数、多模态输入和接口协议 |\n| [预训练](01-主题地图\u002F预训练.md) | 语言建模目标、数据、Scaling Law、优化闭环、compute budget 和基座能力形成 |\n| [参数高效微调](01-主题地图\u002F参数高效微调.md) | LoRA、QLoRA、Adapter、Prefix \u002F Prompt Tuning 等低成本适配方法 |\n| [后训练与对齐](01-主题地图\u002F后训练与对齐.md) | SFT、RLHF、PPO、DPO、GRPO、Rollout、Expert Iteration、Reasoning RL |\n| [推理优化](01-主题地图\u002F推理优化.md) | KV Cache、Flash Attention、MQA\u002FGQA、MLA、稀疏注意力、vLLM 和推理服务 |\n| [训练系统工程](01-主题地图\u002F训练系统工程.md) | 显存、FLOPs、吞吐、并行、checkpoint、veRL、Ray、FSDP 等横切工程问题 |\n\n## 仓库结构\n\n```text\n.\n├── 00-首页与索引\u002F       # 主页、使用指南、工作规范、笔记规范\n├── 01-主题地图\u002F         # 主题导航层\n├── 02-概念笔记\u002F         # 正式概念页和部分框架学习笔记\n├── 03-项目笔记\u002F         # 项目上下文和项目总结\n├── 04-实验与日志\u002F       # 实验过程、调试记录和阶段日志\n├── 05-资料摘录\u002F         # 论文、报告、网页、对话等资料摘录和索引\n├── 06-模板\u002F             # 笔记模板\n├── 07-待整理\u002F           # 临时 inbox\n├── 08-图片\u002F             # Canvas、图片和附件\n├── tools\u002F               # GitHub 渲染辅助脚本\n├── AGENTS.md            # LLM \u002F Codex 维护本仓库时的总规则\n└── README.md\n```\n\n## 目录职责\n\n| 目录 | 角色 | 说明 |\n|---|---|---|\n| `00-首页与索引` | 控制层 | 仓库入口、LLM 工作规范、笔记规范、自检清单、处理日志 |\n| `01-主题地图` | 导航层 | 总图和主主题页，帮助按主题进入知识网络 |\n| `02-概念笔记` | 知识层 | 可复用概念、机制解释、方法对比和框架学习笔记 |\n| `03-项目笔记` | 项目层 | 项目目标、项目结构、项目总结和应用案例 |\n| `04-实验与日志` | 过程层 | 实验过程、排障记录、阶段复盘和产物说明 |\n| `05-资料摘录` | Source 层 | 原始资料、论文阅读、技术报告摘录和资料状态索引 |\n| `06-模板` | 模板层 | 概念笔记、项目笔记等模板 |\n| `07-待整理` | Inbox | 临时材料，只进不久留 |\n| `08-图片` | 附件层 | Obsidian Canvas、图片、Canvas 静态预览和其他附件 |\n| `tools` | 维护工具 | GitHub 渲染适配、Canvas 预览生成等脚本 |\n\n## 如何阅读\n\n如果你是第一次打开这个仓库，建议按下面顺序：\n\n1. 先看 [LLM 全流程总览](01-主题地图\u002F0a.LLM全流程总览.md)，建立整体框架。\n2. 再看 [LLM 学习地图](01-主题地图\u002F0.LLM学习地图.md)，选择具体主题。\n3. 进入对应主题页，例如 [基础架构](01-主题地图\u002F基础架构.md) 或 [后训练与对齐](01-主题地图\u002F后训练与对齐.md)。\n4. 从主题页进入 `02-概念笔记` 中的具体概念页。\n5. 需要追溯来源时，再回到 [资料索引](05-资料摘录\u002F资料索引.md) 和 `05-资料摘录`。\n\n## 当前重点内容\n\n当前仓库主要覆盖：\n\n- Transformer、Attention、位置编码、BPE、激活函数等基础结构\n- KV Cache、Flash Attention、MHA\u002FMQA\u002FGQA、MLA、稀疏注意力等推理优化主题\n- LoRA、参数高效微调和低成本适配方法\n- RLHF、PPO、DPO、GRPO、Rollout、Expert Iteration、DAPO 等后训练与对齐主题\n- Scaling Law、资源预算、FLOPs、显存估算等训练规划主题\n- vLLM、veRL、Ray、FSDP 等系统工程和框架学习笔记\n- Qwen2.5、Qwen2.5-VL、DeepSeek-V4、EAGLE-3、ReAct 等论文 \u002F 报告资料摘录\n\n## Obsidian 使用说明\n\n这个仓库按 Obsidian vault 组织。直接用 Obsidian 打开仓库根目录即可。\n\n需要注意：\n\n- 仓库中的正文链接已尽量转换为标准 Markdown 相对链接，方便 GitHub 网页浏览；Obsidian 也可以打开这些链接。\n- `.obsidian` 中只保留必要配置；本地缓存、插件、主题、工作区状态等已通过 `.gitignore` 排除。\n- Obsidian Canvas 源文件仍保留在 `08-图片\u002F*.canvas`；GitHub 页面中使用 `08-图片\u002Fcanvas-preview\u002F*.svg` 作为静态预览。\n- 如果新增或修改 Canvas \u002F 双链，提交前运行 `python3 tools\u002Fgithub_render.py`，重新生成预览并把 Obsidian 双链转换成 GitHub 可渲染的 Markdown 链接。\n\n## 资料与版权边界\n\n本仓库用于个人学习、整理和知识索引。\n\n- 论文、技术报告、项目页面等外部资料尽量登记官方链接。\n- PDF 原文默认不作为公开分发对象，已在 `.gitignore` 中排除 `*.pdf`。\n- 资料摘录和读书笔记只作为学习整理，不替代原文。\n- 如果要引用具体结论，应优先回到原论文、官方文档或项目页面核对。\n\n## 维护原则\n\n本仓库的整理规则写在 [AGENTS.md](AGENTS.md) 和 `00-首页与索引` 中。核心原则是：\n\n- 总图只做导航，不直接连接大量具体概念。\n- 主题页承接概念页，概念页沉淀可复用知识。\n- 原始资料留在 `05-资料摘录` 或 `07-待整理`，不要直接混入主题图谱。\n- 项目记录和实验日志保留过程语境，不强行改成概念页。\n- 批量整理后同步更新主页、索引、资料索引和处理日志。\n\n## GitHub 同步前检查\n\n同步到 GitHub 前建议检查：\n\n```bash\ngit status --short\ngit add .\ngit status --short\n```\n\n重点确认不要提交：\n\n- 本地工作区状态：`.obsidian\u002Fworkspace.json`\n- 插件、主题和缓存：`.obsidian\u002Fplugins\u002F`、`.obsidian\u002Fthemes\u002F`、`.obsidian\u002Fcache\u002F`\n- PDF 原文：`*.pdf`\n- 实验输出、checkpoint、日志：`outputs\u002F`、`checkpoints\u002F`、`wandb\u002F`、`*.log`\n- 私钥、证书、环境变量：`.env`、`*.pem`、`*.key`\n\n## License\n\n当前仓库尚未指定开源许可证。未经明确许可，请不要将本仓库内容视为可自由再分发材料。\n","这是一个面向长期学习和复盘的 Obsidian LLM-WIKI，主要整理大语言模型相关知识、论文资料、工程框架和实验经验。项目通过逐步整理原始资料，形成可复用的知识网络，包括资料索引、概念笔记、主题地图和项目\u002F实验沉淀。技术特点在于使用 Obsidian 的双链笔记系统，便于构建和导航复杂知识结构。适合研究人员、工程师以及对大语言模型感兴趣的个人在进行系统性学习或项目开发时参考使用。",2,"2026-06-11 04:01:19","CREATED_QUERY"]