[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"project-71096":3},{"id":4,"name":5,"fullName":6,"owner":7,"repo":5,"description":8,"homepage":9,"htmlUrl":10,"language":11,"languages":10,"totalLinesOfCode":10,"stars":12,"forks":13,"watchers":14,"openIssues":15,"contributorsCount":16,"subscribersCount":16,"size":16,"stars1d":17,"stars7d":17,"stars30d":18,"stars90d":16,"forks30d":16,"starsTrendScore":19,"compositeScore":20,"rankGlobal":10,"rankLanguage":10,"license":10,"archived":21,"fork":21,"defaultBranch":22,"hasWiki":21,"hasPages":21,"topics":23,"createdAt":10,"pushedAt":10,"updatedAt":44,"readmeContent":45,"aiSummary":46,"trendingCount":16,"starSnapshotCount":16,"syncStatus":17,"lastSyncTime":47,"discoverSource":48},71096,"Firefly","yangjianxin1\u002FFirefly","yangjianxin1","Firefly: 大模型训练工具，支持训练Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom等大模型","",null,"Python",6639,585,59,203,0,2,3,6,66.6,false,"master",[24,25,26,27,28,29,30,31,32,33,34,35,36,37,38,39,40,41,42,43],"alpaca","aquila","baichuan","chatglm","gemma","gpt","internlm","llama","llama2","llama3","llm","lora","minicpm","mistral","mixtral","peft","qlora","qwen","qwen2","zephyr","2026-06-12 04:00:58","# Firefly: 一站式大模型训练工具\n\n\u003Cdiv align=\"left\">\n\n![GitHub Repo stars](https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002Fyangjianxin1\u002FFirefly?style=social)\n[![Generic badge](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F微信交流群-Firefly-brightgreen?logo=wechat)](.\u002Fpics\u002Fwechat-group.jpeg)\n[![Generic badge](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗-Huggingface%20Repo-green.svg)](https:\u002F\u002Fhuggingface.co\u002FYeungNLP)\n\n[\u002F\u002F]: # ([![Generic badge](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F微信-Firefly-brightgreen?logo=wechat)](.\u002Fpics\u002Fwechat.jpeg))\n\u003C\u002Fdiv>\n\n\u003Cimg src=\"pics\u002Ffirefly_logo.png\" width=\"250\">\n\n欢迎加入Firefly大模型技术交流群，关注我们的公众号，点击加群按钮即可。\n\n\u003Cimg src=\"pics\u002Fgongzhonghao.png\" width=\"300\">\n\n欢迎关注我们的知乎进行交流讨论：**[红雨瓢泼](https:\u002F\u002Fwww.zhihu.com\u002Fpeople\u002Fjian-xin-15-96)**\n\n## 项目简介\n**Firefly** 是一个开源的大模型训练项目，支持对主流的大模型进行预训练、指令微调和DPO，包括但不限于Qwen2、Yi-1.5、Llama3、Gemma、Qwen1.5、MiniCPM、MiniCPM3、Llama、InternLM、Baichuan、ChatGLM、Yi、Deepseek、Qwen、Orion、Ziya、Xverse、Mistral、Mixtral-8x7B、Zephyr、Vicuna、Bloom等。\n本项目支持**全量参数训练、LoRA、QLoRA高效训练**，支持**预训练、SFT、DPO**。 如果你的训练资源有限，我们极力推荐使用QLoRA进行指令微调，因为我们在Open LLM Leaderboard上验证了该方法的有效性，并且取得了非常不错的成绩。\n\n🔔 本项目主要内容如下：\n- 📗 支持预训练、指令微调、DPO，支持全量参数训练、LoRA、QLoRA高效训练。通过配置文件的方式训练不同的模型，小白亦可快速上手训练模型。\n- 📗 支持使用[Unsloth](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002Funsloth)加速训练，并且节省显存。\n- 📗 支持绝大部分主流的开源大模型，如Llama3、Gemma、MiniCPM、Llama、InternLM、Baichuan、ChatGLM、Yi、Deepseek、Qwen、Orion、Ziya、Xverse、Mistral、Mixtral-8x7B、Zephyr、Vicuna、Bloom，训练时与各个官方的chat模型的template对齐。\n- 📗 整理并开源指令微调数据集：firefly-train-1.1M 、moss-003-sft-data、ultrachat、 WizardLM_evol_instruct_V2_143k、school_math_0.25M。\n- 📗 开源[Firefly系列指令微调模型权重](https:\u002F\u002Fhuggingface.co\u002FYeungNLP) 。\n- 📗 在Open LLM Leaderboard上验证了QLoRA训练流程的有效性。\n\n当前版本针对不同的chat模型的template进行了适配，代码存在较大的更新。若你更喜欢此前的版本，可下载代码[v0.0.1-alpha](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly\u002Freleases\u002Ftag\u002Fv0.0.1-alpha)\n\n## News\n- 🔥 Unsloth x Qwen2模型结构的PR已merge到[Unsloth](https:\u002F\u002Fgithub.com\u002Funslothai\u002Funsloth)的master分支。\n- 🔥 扩展Unsloth，支持Qwen2模型结构，包括Qwen1.5系列的Dense模型，代码库：[Unsloth](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002Funsloth)。 [技术文章](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002Fx2N3p1qgJy_RyRsO2PHS_A)\n- 🔥 支持[Unsloth](https:\u002F\u002Fgithub.com\u002Funslothai\u002Funsloth)，训练Llama3-8B仅需7.75GB显存，可减少42.58%显存占用，减少30.72%训练时间。 [训练增益评测](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FZlp7GM37_bkvvQZedzNp0g)。\n- 🔥 优化训练流程，支持全量训练、LoRA、QLoRA高效训练，支持预训练、指令微调和DPO。指令微调与DPO的template与原有的chat模型对齐，支持绝大多数开源模型，包括Gemma、MiniCPM、Llama、InternLM、Baichuan、ChatGLM、Yi、Deepseek、Qwen、Orion、Ziya、Xverse、Mistral、Mixtral-8x7B、Zephyr、Vicuna、Bloom等。\n- 🔥 开源模型权重[firefly-mixtral-8x7b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-mixtral-8x7b) ，在[🤗Open LLM排行榜](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FHuggingFaceH4\u002Fopen_llm_leaderboard)分数为70.34，超越Yi-34B、Llama2-65B-Chat、Qwen-14B、Vicuna-33B-v1.3等模型。\n- 🔥 开源[LongQLoRA](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FLongQLoRA)， 【[技术报告](https:\u002F\u002Farxiv.org\u002Fabs\u002F2311.04879)】。可高效扩展LLama上下文长度，在单张32GB V100上将Llama2长度扩展至8k（亦可扩展至12k），仅微调1000 step，在PG19和Proof-pile数据集上的perplexity优于LongLoRA，在PG19上略胜MPT-7B-8K。\n- 🔥 开源[Firefly-LLaMA2-Chinese项目](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly-LLaMA2-Chinese)，**在4*V100上进行高效训练**，经过中文词表扩充、增量预训练、多轮指令微调，在CMMLU上超越Linly、Yayi、FlagAlpha等，与Ziya、Chinese-Alpaca表现基本持平。\n- 🔥 开源[firefly-baichuan2-13b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-baichuan2-13b)，在OpenCompass的CMMLU榜单上以56.83的分数，位列第8，比百川官方Chat模型略低1.57分。\n- 🔥 开源[firefly-llama-30b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-llama-30b)，在[🤗Open LLM排行榜](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FHuggingFaceH4\u002Fopen_llm_leaderboard)上以64.83分，同量级模型**排名第10**。\n- 🔥 开源[firefly-llama2-13b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-llama2-13b)，在[🤗Open LLM排行榜](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FHuggingFaceH4\u002Fopen_llm_leaderboard)上以62分，同量级模型**排名第3**，比榜首略低0.5分。\n- 🔥 开源[firefly-llama-13b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-llama-13b)，在[Hugging Face的Open LLM排行榜](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FHuggingFaceH4\u002Fopen_llm_leaderboard)上复刻Vicuna-13B，比Vicuna-13b-1.1略高0.2分，比llams-2-13b-chat略低0.5分。\n- [LLMPruner：大语言模型裁剪工具](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FLLMPruner) ，开源[裁剪后的Bloom模型权重](https:\u002F\u002Fhuggingface.co\u002FYeungNLP) 。\n\n## 相关项目\n- [Firefly-LLaMA2-Chinese](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly-LLaMA2-Chinese)：中文Llama2模型，对Llama2进行中文词表扩充、增量预训练和指令微调。\n- [LongQLoRA](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FLongQLoRA)：大模型长度扩展项目，可在单卡V100上将LLaMA-13B的长度扩展至8192，且性能逼近MPT-8K。\n- [LLMPruner](https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FLLMPruner)：对Bloom进行词表裁剪，减少模型参数量。\n\n## 技术博客\n\u003Cdetails>\u003Csummary>\u003Cb>技术博客\u003C\u002Fb>\u003C\u002Fsummary>\n\n- [Unsloth x Qwen2，提速47.32%，节省39.13%显存，最少仅需8.43GB显存](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002Fx2N3p1qgJy_RyRsO2PHS_A)\n- [Unsloth微调Llama3-8B，提速44.35%，节省42.58%显存，最少仅需7.75GB显存](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FZlp7GM37_bkvvQZedzNp0g)\n- [弱智吧祛魅，与强Baseline的对比实验，差距明显](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FLwGgMbPdC_UTCefqWSkXEQ)\n- [关于弱智吧数据封神的若干疑问和猜想，以及数据验证实验](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FPnJVA66QLp4-gZTss46PqQ)\n- [图解大模型推理优化之KV Cache](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002F7Fm8LbUN9jQ2HqxPbUU7UQ)\n- [Mixtral-8x7B MoE大模型微调实践，超越Llama2-65B](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002Ff24e-Tp-1WyXTbVOzePvhg)\n- [LongQLoRA：单卡高效扩展LLaMA2-13B的上下文长度](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FlptWXi9sZXd2MTTXZsDiPw)\n- [详解基于调整RoPE旋转角度的大模型长度外推方法](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FRtI95hu-ZLxGkdGuNIkERQ)\n- [图解RoPE旋转位置编码及其特性](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002F-1xVXjoM0imXMC7DKqo-Gw)\n- [QLoRA轻量级增量预训练方案，及汉化Llama2的实践](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002F26-Qxma9M2wGoTQgOlKRmQ)\n- [Firefly多轮对话微调书生·浦语InternLM-7B实践](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002F98OLdkHjoGDHNDbYL7RerA)\n- [🤗Firefly微调LLaMA-30B，Open LLM榜单同量级第10名](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FfFT0Pxfecma4n_fXQYb2Mw)\n- [通义千问Qwen-7B效果如何？Firefly微调实践，效果出色](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002F5OAx83j6Op299XAfa496ww)\n- [源码解析ChatGLM2多轮对话训练方法的不足，以及改进方法](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FnhogoWnzl3nrs_77r38_UA)\n- [Firefly增强Baichuan-13B的多轮对话能力](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FdjO8Tg3emmy6wzw_rTUlcw)\n- [🤗Open LLM排行榜，firefly-llama2-13b在所有13B模型中排名第三，比榜首略低0.5分](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002Fw1V3QGvsRTQsQqAKp2z6Kg)\n- [百万数据增强Baichuan-13B的多轮对话能力](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FdjO8Tg3emmy6wzw_rTUlcw)\n- [Firefly单卡复刻Vicuna-13B，Open LLM榜单🤗略高0.2分](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FQG2YMo_QxaxS_Rr2yJrIeA)\n- [微调百川Baichuan-13B保姆式教程，手把手教你训练百亿大模型](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FZBY6kbogHjbCQvZBzNEqag)\n- [Firefly-Ziya-13B开源，QLoRA+百万数据，单卡可训百亿大模型](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FvgNK6D-_0j4Chk2H1Ev-Ig)\n- [Firefly｜百川baichuan-7B实测，QLoRA+百万指令数据微调](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002F_eTkDGG5DmxyWeiQ6DIxBw)\n- [Firefly | QLoRA+百万数据，多卡高效微调bloom-7b1模型](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FlA4YUJ9XGpKlUUUjz0Le-g)\n- [QLoRA文章解读 & 单卡高效微调bloom-7b1](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FDED7yeiE0DibsVzTmMeDOw)\n- [Firefly(流萤): 中文对话式大语言模型](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FTX7wj8IzD_EaMTvk0bjRtA)\n- [LLMPruner：大语言模型裁剪工具](https:\u002F\u002Fmp.weixin.qq.com\u002Fs\u002FleVtrwZc1zLput51Nr99lw)\n\n\u003C\u002Fdetails>\n\n\n## 模型评测\n\n### Open LLM Leaderboard评测\n评测结果来源于Hugging Face的[Open LLM Leaderboard](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FHuggingFaceH4\u002Fopen_llm_leaderboard)。我们的模型均采用QLoRA脚本进行训练，训练仅使用1~2张V100。\n\n\n| 模型                          | Average | ARC   | HellaSwag | MMLU  | TruthfulQA |\n|-----------------------------|---------|-------|-----------|-------|------------|\n| **firefly-mixtral-8x7b**    | 70.16   | 68.09 | 85.76     | 71.49 | 55.31      |\n| Yi-34B-Chat                 | 69.97   | 65.44 | 84.16     | 74.9  | 55.37      |\n| **firefly-llama-30b**       | 64.83   | 64.25 | 83.64     | 58.23 | 53.2       |\n| falcon-40b-instruct         | 63.47   | 61.6  | 84.31     | 55.45 | 52.52      |\n| guanaco-33b                 | 62.98   | 62.46 | 84.48     | 53.78 | 51.22      |\n| **firefly-llama2-13b-v1.2** | 62.17   | 60.67 | 80.46     | 56.51 | 51.03      |\n| **firefly-llama2-13b**      | 62.04   | 59.13 | 81.99     | 55.49 | 51.57      |\n| vicuna-13b-v1.5             | 61.63   | 56.57 | 81.24     | 56.67 | 51.51      |\n| mpt-30b-chat                | 61.21   | 58.7  | 82.54     | 51.16 | 52.42      |\n| wizardlm-13b-v1.2           | 60.79   | 59.04 | 82.21     | 54.64 | 47.27      |\n| vicuna-13b-v1.3             | 60.01   | 54.61 | 80.41     | 52.88 | 52.14      |\n| llama-2-13b-chat            | 59.93   | 59.04 | 81.94     | 54.64 | 44.12      |\n| vicuna-13b-v1.1             | 59.21   | 52.73 | 80.14     | 51.9  | 52.08      |\n| guanaco-13b                 | 59.18   | 57.85 | 83.84     | 48.28 | 46.73      |\n\n\n## 模型列表\n\n🔔 使用本项目的训练代码，以及上述训练数据，我们训练并开源了以下模型权重。\n\n中文模型：\n\n| 模型                                                                             | 基座模型                                | 训练长度 |\n|--------------------------------------------------------------------------------|-------------------------------------|------|\n| [firefly-baichuan2-13b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-baichuan2-13b) | baichuan-inc\u002FBaichuan2-13B-Base     | 1024 |  \n| [firefly-baichuan-13b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-baichuan-13b)   | baichuan-inc\u002FBaichuan-13B-Base      | 1024 |  \n| [firefly-qwen-7b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-qwen-7b)             | Qwen\u002FQwen-7B                        | 1024 |  \n| [firefly-chatglm2-6b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-chatglm2-6b)     | THUDM\u002Fchatglm2-6b                   | 1024 |  \n| [firefly-internlm-7b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-internlm-7b)     | internlm\u002Finternlm-7b                | 1024 |  \n| [firefly-baichuan-7b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-baichuan-7b)     | baichuan-inc\u002Fbaichuan-7B            | 1024 |           \n| [firefly-ziya-13b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-ziya-13b)           | YeungNLP\u002FZiya-LLaMA-13B-Pretrain-v1 | 1024 |           \n| [firefly-bloom-7b1](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-bloom-7b1)         | bigscience\u002Fbloom-7b1                | 1024 |\n| [firefly-bloom-2b6-v2](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-bloom-2b6-v2)   | YeungNLP\u002Fbloom-2b6-zh               | 512  |\n| [firefly-bloom-2b6](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-bloom-2b6)         | YeungNLP\u002Fbloom-2b6-zh               | 512  |\n| [firefly-bloom-1b4](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-bloom-1b4)         | YeungNLP\u002Fbloom-1b4-zh               | 512  |\n\n\n英文模型：\n\n| 模型                                                                     | 基座模型              | 训练长度 |\n|------------------------------------------------------------------------|-------------------|------|\n| [firefly-mixtral-8x7b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-mixtral-8x7b)    | mistralai\u002FMixtral-8x7B-v0.1                  | 1024 |\n| [firefly-llama-30b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-llama-30b) | huggyllama\u002Fllama-30b | 1024 |  \n| [firefly-llama-13-v1.2](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-llama2-13b-v1.2) | NousResearch\u002FLlama-2-13b-hf | 1024 |  \n| [firefly-llama2-13b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-llama2-13b) | NousResearch\u002FLlama-2-13b-hf | 1024 |           \n| [firefly-llama-13b-v1.2](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-llama-13b-v1.2) | huggyllama\u002Fllama-13b | 1024 |           \n| [firefly-llama-13b](https:\u002F\u002Fhuggingface.co\u002FYeungNLP\u002Ffirefly-llama-13b) | huggyllama\u002Fllama-13b | 1024 |\n\n\n\n## 训练数据\n### 指令微调数据\n🔔 目前本项目主要整理了如下指令数据集，并将其整理成统一的数据格式：\n\n| 数据集                                                                                                          | 介绍                                                                                                      |\n|--------------------------------------------------------------------------------------------------------------|---------------------------------------------------------------------------------------------------------|\n| [firefly-train-1.1M](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FYeungNLP\u002Ffirefly-train-1.1M)                            | 我们收集了23种常见的中文NLP任务的数据，并且构造了许多与中华文化相关的数据，如对联、作诗、文言文翻译、散文、金庸小说等。对于每个任务，由人工书写若干种指令模板，保证数据的高质量与丰富度，数据量为115万 |\n| [moss-003-sft-data](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FYeungNLP\u002Fmoss-003-sft-data)                              | 由复旦大学MOSS团队开源的中英文多轮对话数据，包含100万+数据                                                                       |\n| [ultrachat](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FYeungNLP\u002Fultrachat)                                              | 由清华大学开源的英文多轮对话数据，包含140万+数据                                                                              |\n| [WizardLM_evol_instruct_V2_143k](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FYeungNLP\u002FWizardLM_evol_instruct_V2_143k) | 由WizardLM项目开源的英文指令微调数据集，通过Evol-Instruct方法让指令进化，加强指令的复杂度，以提升模型对复杂指令的遵循能力。包含143k条数据。                      |\n| [school_math_0.25M](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FYeungNLP\u002Fschool_math_0.25M)     | 由BELLE项目组开源的数学运算指令数据，包含25万条数据。                                                                          |\n| [shareAI\u002FCodeChat](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FshareAI\u002FCodeChat)      | 主要包含逻辑推理、代码问答、代码生成相关语料样本。                                                                               |\n| [shareAI\u002FShareGPT-Chinese-English-90k](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FshareAI\u002FShareGPT-Chinese-English-90k)     | 中英文平行双语优质人机问答数据集，覆盖真实复杂场景下的用户提问。                                                                        |\n| [ultrachat_200k](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FYeungNLP\u002Fultrachat_200k)      | 由Zephyr项目开源的英文指令微调数据，在ultrachat数据基础上进行清洗                                                                |\n| [ultrafeedback_binarized](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002FYeungNLP\u002Fultrafeedback_binarized)      | 英文偏好数据集，可用于DPO训练                                                                                        |\n\n\n可按需选择、采样或组合上述数据。若是训练中文模型，建议尝试使用moss数据，英文可尝试ultrachat和WizardLM数据。\n\n训练数据为jsonl格式，每一行的数据格式如下，其中conversation字段是必需的，可以根据实际需求添加或删除其他字段。\n可以参考项目中的data\u002Fdummy_data.jsonl文件。\n```json\n{\n    \"conversation_id\":44,\n    \"category\":\"Brainstorming\",\n    \"conversation\":[\n        {\n            \"human\":\"怎么能够有效地提升个人能力？\",\n            \"assistant\":\"提升个人能力可以通过以下几个方面实现：\\n\\n1. 学习新知识和技能：阅读相关书籍、参加课程和工作坊、观看教育视频等学习方式，可以帮助你掌握新的知识和技能，从而提升个人能力。\\n\\n2. 持续练习和实践：不断地练习和实践所学的知识和技能，可以帮助你更好地掌握和应用这些技能，提高你的表现和效率。\\n\\n3. 寻求反馈和改进：寻求他人的反馈和建议可以帮助你发现自己的不足之处，进一步完善和改进自己的能力。\\n\\n4. 建立良好的工作和生活习惯：建立良好的工作和生活习惯，如合理安排时间、注意健康、保持积极态度等，可以提高你的工作效率和生活品质，从而提升个人能力。\\n\\n5. 社交和交流：与他人交流和合作，可以帮助你更好地了解他人的观点和经验，从而提升自己的能力和见识。\"\n        },\n        {\n            \"human\":\"对于初学者来说，如何快速掌握编程技能？\",\n            \"assistant\":\"以下是几个建议，可以帮助初学者快速掌握编程技能：\\n\\n1. 学习基础知识：建议先学习编程语言的基础知识和语法，例如变量、数据类型、控制结构、函数等。可以通过在线课程、编程书籍、视频教程等方式学习。\\n\\n2. 实践编程：进行实际的编程练习是非常重要的，可以通过参加编程挑战、编写小项目等方式来进行实践。\\n\\n3. 寻求反馈：可以寻求他人的反馈和建议，例如在线编程社区、编程导师等，他们可以帮助你发现问题并及时纠正。\\n\\n4. 阅读优秀代码：阅读和分析优秀的代码可以帮助你学习其他程序员的编程思路和技巧，从而提高自己的编程能力。\\n\\n5. 不断学习和更新：编程技术和工具在不断更新和发展，因此需要不断学习新的知识和技能，例如学习新的编程语言、框架、工具等，以跟上技术的发展和变化。\\n\\n总之，学习编程需要耐心和坚持，并且需要不断地实践和学习。通过以上建议，可以帮助初学者快速掌握编程技能。\"\n        },\n        {\n            \"human\":\"除了参加编程挑战和阅读代码，还有哪些方式可以提升自己的编程能力呢？\",\n            \"assistant\":\"除了参加编程挑战和阅读代码，还有以下几种方式可以提升自己的编程能力：\\n\\n1. 参与开源项目：加入一个开源项目，可以让你了解到实际的软件开发流程和团队合作方式，并且可以与其他开发人员合作，学习和分享编程技巧和经验。\\n\\n2. 进行代码重构：对已经编写的代码进行重构，可以帮助你了解更好的编程实践和设计模式，从而提高代码的可读性和可维护性。\\n\\n3. 练习算法和数据结构：算法和数据结构是编程中的重要基础，练习算法和数据结构可以帮助你了解不同的数据结构和算法，从而更好地解决实际问题。\\n\\n4. 学习软件工程和架构：学习软件工程和架构的知识，可以帮助你了解如何设计和构建可靠、可扩展和可维护的软件系统。\\n\\n5. 参加编程社区和论坛：参加编程社区和论坛可以让你与其他开发人员分享和讨论编程经验和技巧，了解最新的技术趋势和解决方案。\\n\\n总之，提升编程能力需要不断地学习和实践，并与其他开发人员和编程专家进行交流和合作，以获取更多的经验和知识。\"\n        },\n        {\n            \"human\":\"你有没有推荐的编程挑战网站？\",\n            \"assistant\":\"当然，以下是一些值得推荐的编程挑战网站：\\n\\n1. HackerRank：HackerRank 是一个全球领先的技术招聘平台，提供数百种编程挑战和比赛，包括算法、数据结构、数学、SQL、AI 等多个技术领域。\\n\\n2. LeetCode：LeetCode 是一个在线编程学习和实践平台，提供数千道编程题目，主要涵盖算法和数据结构。\\n\\n3. Codeforces：Codeforces 是一个全球知名的编程竞赛网站，提供数百个比赛和练习题目，主要涵盖算法和数据结构。\\n\\n4. Codewars：Codewars 是一个在线编程学习和实践平台，提供数千道编程题目，主要涵盖算法、数据结构、面向对象编程等多个技术领域。\\n\\n5. Project Euler：Project Euler 是一个非营利性的在线编程挑战平台，提供一系列数学和计算机科学问题，需要用编程语言进行解答。\\n\\n以上这些编程挑战网站可以帮助你提高编程能力，并且可以与其他编程爱好者进行交流和竞争。\"\n        },\n        {\n            \"human\":\"在学习编程的过程中，如何避免陷入困境和放弃呢？\",\n            \"assistant\":\"学习编程是一个需要长期坚持和不断学习的过程，以下是一些避免陷入困境和放弃的方法：\\n\\n1. 制定合理的学习计划：制定合理的学习计划，包括学习时间、学习内容、目标等，可以帮助你更好地管理时间和精力，避免学习过程中的松懈和分心。\\n\\n2. 寻找合适的学习资源：选择适合自己的学习资源，例如在线课程、编程书籍、视频教程等，可以让你更好地了解和掌握编程知识和技能。\\n\\n3. 寻求帮助和支持：在学习过程中，遇到问题和困难是很正常的，可以寻求他人的帮助和支持，例如参加编程社区、找到编程导师等。\\n\\n4. 进行实践和项目：实践和项目是学习编程的重要组成部分，可以帮助你更好地了解和掌握编程技能，同时也可以提高学习的兴趣和动力。\\n\\n5. 坚持并保持兴趣：坚持学习和保持兴趣是学习编程的关键。可以通过参加编程社区、参加编程竞赛、与其他编程爱好者交流等方式来保持兴趣和动力。\\n\\n总之，学习编程需要耐心和坚持，并需要不断学习和实践。通过以上方法可以帮助你避免陷入困境和放弃。\"\n        }\n    ],\n}\n```\n\n其中firefly-train-1.1M的数据分布如下图所示：\n\n\u003Cimg src=\"pics\u002Ftask_distribution.png\" width=\"380\"> \n\n### 预训练数据\n数据格式可以参考项目中的data\u002Fpretrain\u002Fdummy_pretrain.jsonl文件。\n\n### DPO数据\n数据格式可以参考项目中的data\u002Fdummy_dpo.jsonl文件。\n\n## 模型训练\n若训练中报错，可先查看[FAQ]()。\n\n我们将训练中使用的各种组件抽取出来，以便后续的扩展和优化，详见component目录下的实现。训练时的参数配置存储在train_args目录下，方便统一管理和更改。大家可以在train_args目录下查看不同模型的训练配置，按需修改或添加。\n\n### 安装环境\n在requirements.txt下固定了几个主要的python包的版本，执行如下脚本即可。注意：\n- 对于绝大部分模型，我们均在torch==1.13，transformers==4.36环境上进行调试和训练。但部分较新的模型，需要更新transformers版本。\n  - Qwen1.5需要将transformers更新只4.37。\n  - Gemma需要将transformers更新只4.38.1，torch==2.0.0。\n- 使用QLoRA训练Baichuan2时，需要安装torch==2.0，并且卸载xformers和apex。\n- 使用QLoRA训练Qwen时，需将flash-attn卸载，否则会报错。\n```bash\npip install requirements.txt\n```\n\n如果需要开启Unsloth，建议安装或者更新以下Python包：\n```bash\npip install git+https:\u002F\u002Fgithub.com\u002Funslothai\u002Funsloth.git\npip install bitsandbytes==0.43.1\npip install peft==0.10.0\npip install torch==2.2.2\npip install xformers==0.0.25.post1\n```\n\n如果需要使用Unsloth对Qwen1.5进行训练，安装如下包：\n```bash\npip install git+https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002Funsloth.git\n```\n\n### 损失函数\n预训练时，我们采用经典的自回归损失，即每个位置的token都会参与loss计算。\n\n指令微调时，我们仅计算assistant回复部分的loss。\n\n### 参数说明\n📝 train_args目录下存储了不同模型使用不同训练方式的配置文件，主要参数说明如下：\n- output_dir：训练输出目录，存储checkpoint、tokenizer、tensorboard等\n- model_name_or_path：预训练模型的本地目录，或者在huggingface上的模型名称。\n- train_file：训练数据集路径。sft时，需要设置为文件，可以使用data\u002Fdummy_data.jsonl进行debug。pretrain时，需要设置为目录。脚本会自动扫描目录下的所有jsonl文件。\n- template_name：指令微调时，使用的模板名称。具体有哪些template_name，可参考component\u002Ftemplate.py文件\n- num_train_epochs：训练的轮次。如果数据量足够大，一般建议只训一个epoch。\n- tokenize_num_workers：预训练时，tokenize的线程数，默认为10。\n- deepspeed：deepspeed的训练配置文件。全量参数训练时，将采用deepspeed，关于deepspeed的参数配置说明，请参考[deepspeed文档](https:\u002F\u002Fhf-mirror.com\u002Fdocs\u002Ftransformers\u002Fmain\u002Fen\u002Fdeepspeed#deepspeed)\n- train_mode：训练模式，full、lora或qlora，默认为qlora。\n- task_type：任务类型，pretrain、sft或dpo，默认为sft。\n- per_device_train_batch_size：每张显卡的batch size。\n- gradient_accumulation_steps：梯度累计步数。global batch=num_gpus * per_device_train_batch_size * gradient_accumulation_steps。\n- gradient_checkpointing：如果显存捉襟见肘，可以开启。以时间换空间，模型不缓存激活状态，会进行两次forward计算，以节省显存。\n- learning_rate：学习率。全量参数微调的时候，建议小一些，1e-5或5e-6。\n- max_seq_length：训练时的最大长度。按照自己的设备进行设置，越长需要占用越多显存。\n- max_prompt_length：进行dpo时，prompt的最大长度。\n- logging_steps：每隔多少步统计一次train loss。\n- save_steps：每隔多少步保存一个模型。\n- save_total_limit：output_dir目录中最多保存多少个checkpoint，超出则会将最旧的删除。\n- lr_scheduler_type：学习率变化策略。\n- warmup_steps：warm up步数。学习率经过多少步，增长到指定的数值。\n- optim：优化器。如果是全量参数微调，建议使用adamw_hf。\n- seed：随机种子，用于复现实验结果。\n- fp16：使用使用fp16混合精度。V100建议开启。\n- bf16：使用使用bf16混合精度。A100建议开启。\n- use_unsloth：是否使用unsloth，目前unsloth仅支持部分模型，例如Llama3、Mistral、Gemma、TinyLlama等，详情见[Unsloth](https:\u002F\u002Fgithub.com\u002Funslothai\u002Funsloth)。\n\n以下几个参数，当使用QLoRA训练的时候，需要设置：\n- lora_rank：qlora矩阵的秩。一般设置为8、16、32、64等，在qlora论文中作者设为64。越大则参与训练的参数量越大，一般来说效果会更好，但需要更多显存，。\n- lora_alpha: qlora中的缩放参数。一般设为16、32即可。\n- lora_dropout: lora权重的dropout rate。\n\n关于deepspeed的参数配置，可按需自行修改。\n\n\n### 开始训练\n\n💻 全量参数预训练，将{num_gpus}替换为显卡数量：\n```bash\ndeepspeed --num_gpus={num_gpus} train.py --train_args_file train_args\u002Fpretrain\u002Ffull\u002Fbloom-1b1-pretrain-full.json\n```\n\n💻 全量参数指令微调，将{num_gpus}替换为显卡数量：\n```bash\ndeepspeed --num_gpus={num_gpus} train.py --train_args_file train_args\u002Fsft\u002Ffull\u002Fbloom-1b1-sft-full.json\n```\n\n💻 单卡QLoRA预训练：\n```bash\npython train.py --train_args_file train_args\u002Fpretrain\u002Fqlora\u002Fyi-6b-pretrain-qlora.json\n```\n\n💻 单卡QLoRA指令微调：\n```bash\npython train.py --train_args_file train_args\u002Fsft\u002Fqlora\u002Fyi-6b-sft-qlora.json\n```\n\n💻 多卡QLoRA预训练：\n```bash\ntorchrun --nproc_per_node={num_gpus} train.py --train_args_file train_args\u002Fpretrain\u002Fqlora\u002Fyi-6b-pretrain-qlora.json\n```\n\n💻 多卡QLoRA指令微调：\n```bash\ntorchrun --nproc_per_node={num_gpus} train.py --train_args_file train_args\u002Fsft\u002Fqlora\u002Fyi-6b-sft-qlora.json\n```\n\n💻 单卡QLoRA进行DPO训练：\n```bash\npython train.py --train_args_file train_args\u002Fsft\u002Fqlora\u002Fminicpm-2b-dpo-qlora.json\n```\n\n## 模型使用\n\n### 权重合并\n如果使用LoRA或者QLoRA进行训练，本项目仅保存adapter的权重和配置文件，需要将adapter权重与base model进行合并。脚本见script\u002Fmerge_lora.py\n\n### 模型推理\n我们提供了多轮对话的交互脚本，详见script\u002Fchat目录，该脚本可同时兼容本项目训练的所有模型进行推理。脚本中设置的template_name，需要与模型训练时的template_name一致。\n```bash\ncd script\u002Fchat\npython chat.py\n```\n\n生成脚本中的top_p、temperature、repetition_penalty、do_sample等参数对模型的生成效果影响较大，可按照自己的使用场景进行调试修改。\n\n推理脚本中支持使用base model和adapter进行推理，缺点是每次启动脚本都需要合并一次权重，等待时间较久。\n\n支持使用4bit进行推理，显存要求低，效果会略有下降。\n\n\n## FAQ\n#### 问题1：OOM如何解决？\n如果发生OOM，可以缩小per_device_train_batch_size、max_seq_length等参数来缓解。也可以设gradient_checkpointing=true，可以大幅降低显存占用，但训练速度会变慢一些。\n\n#### 问题2：安装包错误\nrequirements.txt中有各python包的版本\n```bash\npip install -r requirements.txt\n```\n\n#### 问题3：如何指定使用某些卡训练？\n通过如下方式，即可指定使用0和1号卡进行训练:\n```bash\nCUDA_VISIBLE_DEVICES=0,1 torchrun --nproc_per_node={num_gpus} train_qlora.py --train_args_file train_args\u002Fqlora\u002Fbaichuan-7b-sft-qlora.json\n```\n\n#### 问题4：训练Baichuan2失败\n训练Baichuan2需要安装torch==2.0，并且卸载xformers和apex，否则会报错\n```\nRuntimeError: No such operator xformers::efficient_attention_forward_generic - did you forget to build xformers with `python setup.py develop`?\n```\n\n#### 问题5：训练Qwen失败\nQwen进行QLoRA训练需要卸载flash-attn，否则会报错：\n```\nassert all((i.dtype in [torch.float16, torch.bfloat16] for i in (q, k, v))) \n```\n\n#### 问题6：Qwen-Base和Yi-Base经过SFT之后，没法生成\u003C|im_end|>，无法正常停止\n经查询，该问题广泛存在于Qwen官方代码库的issue中，如果训练Qwen-Base和Yi-Base，建议设template_name=\"default\"，可以避免该问题。\n如果对Qwen-Chat和Yi-Chat模型进行SFT，则不会产生该问题，可将template_name分别设为\"qwen\"和\"yi\"。\n\n注意：该问题在Qwen1.5中不存在\n\n\n## 局限性和使用限制\n由于模型参数量限制、训练数据的清洗程度等因素，本项目开源的模型可能存在以下局限性：\n- 对于事实性知识，容易产生错误的回复。\n- 由于未经过无害化微调，可能会产生歧视、危害、违背伦理道德的言论。\n- 在代码、推理上的能力仍有欠缺。\n\n基于以上模型的局限性，我们要求本项目的代码、数据、模型不得用于对社会造成危害的用途，且应当遵循基座模型的商业许可。\n\n## 引用\n若使用本项目的数据、代码或模型，请引用本项目。\n```text\n@misc{Firefly,\n  author = {Jianxin Yang},\n  title = {Firefly(流萤): 中文对话式大语言模型},\n  year = {2023},\n  publisher = {GitHub},\n  journal = {GitHub repository},\n  howpublished = {\\url{https:\u002F\u002Fgithub.com\u002Fyangjianxin1\u002FFirefly}},\n}\n```\n\n[\u002F\u002F]: # (## 关注我们)\n\n[\u002F\u002F]: # ()\n[\u002F\u002F]: # (\u003Cimg src=\"pics\u002Fgongzhonghao.jpeg\" width=\"250\"> )\n\n## Star History\n![Star History Chart](https:\u002F\u002Fapi.star-history.com\u002Fsvg?repos=yangjianxin1\u002FFirefly&type=Date)\n\n\n\n\n","Firefly是一个开源的大模型训练工具，支持多种主流大模型的预训练、指令微调和DPO。该项目的核心功能包括全量参数训练、LoRA及QLoRA高效训练方式，特别适合资源有限情况下的指令微调任务。技术特点上，Firefly通过配置文件简化了模型训练流程，使得即使是初学者也能快速上手上手，并且支持使用Unsloth加速训练过程以节省显存。此外，项目还提供了丰富的开源指令微调数据集以及一系列经过验证的高效训练模型权重。适用于需要对现有大模型进行定制化训练或优化的研究人员与开发者。","2026-06-11 03:35:51","high_star"]