[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"project-71126":3},{"id":4,"name":5,"fullName":6,"owner":7,"repo":5,"description":8,"homepage":9,"htmlUrl":10,"language":11,"languages":10,"totalLinesOfCode":10,"stars":12,"forks":13,"watchers":14,"openIssues":15,"contributorsCount":16,"subscribersCount":16,"size":16,"stars1d":16,"stars7d":17,"stars30d":18,"stars90d":16,"forks30d":16,"starsTrendScore":16,"compositeScore":19,"rankGlobal":10,"rankLanguage":10,"license":20,"archived":21,"fork":21,"defaultBranch":22,"hasWiki":23,"hasPages":21,"topics":24,"createdAt":10,"pushedAt":10,"updatedAt":25,"readmeContent":26,"aiSummary":27,"trendingCount":16,"starSnapshotCount":16,"syncStatus":28,"lastSyncTime":29,"discoverSource":30},71126,"LaWGPT","pengxiao-song\u002FLaWGPT","pengxiao-song"," 🎉 Repo for LaWGPT, Chinese-Llama tuned with Chinese Legal knowledge. 基于中文法律知识的大语言模型","https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002FLaWGPT\u002F",null,"Python",6051,548,45,86,0,6,14,39.22,"GNU General Public License v3.0",false,"main",true,[],"2026-06-12 02:02:48","# LaWGPT：基于中文法律知识的大语言模型\n\n\u003Cp align=\"center\">\n  \u003Ca href=\"assets\u002Flogo\u002Flawgpt.jpeg\">\n    \u003Cimg src=\".\u002Fassets\u002Flogo\u002Flawgpt.jpeg\" width=\"80%\" >\n  \u003C\u002Fa>\n\u003C\u002Fp>\n\n\u003Cp align=\"center\">\n    \u003Ca href=\"https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002FLaWGPT\u002Fwiki\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fdocs-Wiki-brightgreen\">\u003C\u002Fa>\n    \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fentity303\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FHugging%20Face-entity303-green\">\u003C\u002Fa>\n    \u003Ca href=\"\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fversion-beta1.1-blue\">\u003C\u002Fa>\n    \u003Ca href=\"\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fos-Linux-9cf\">\u003C\u002Fa>\n    \u003Ca href=\"\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flast-commit\u002Fpengxiao-song\u002Flawgpt\">\u003C\u002Fa>\n    \u003Ca href=\"https:\u002F\u002Fstar-history.com\u002F#pengxiao-song\u002FLaWGPT&Timeline\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fstars\u002Fpengxiao-song\u002Flawgpt?color=yellow\">\u003C\u002Fa> \n    \u003C!-- \u003Ca href=\"https:\u002F\u002Fwww.lamda.nju.edu.cn\u002F\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fsupport-NJU--LAMDA-9cf.svg\">\u003C\u002Fa> -->\n\u003C\u002Fp>\n\nLaWGPT 是一系列基于中文法律知识的开源大语言模型。\n\n该系列模型在通用中文基座模型（如 Chinese-LLaMA、ChatGLM 等）的基础上扩充法律领域专有词表、**大规模中文法律语料预训练**，增强了大模型在法律领域的基础语义理解能力。在此基础上，**构造法律领域对话问答数据集、中国司法考试数据集进行指令精调**，提升了模型对法律内容的理解和执行能力。\n\n详细内容请参考[技术报告](https:\u002F\u002Farxiv.org\u002Fpdf\u002F2406.04614)。\n\n---\n\n本项目持续开展，法律领域数据集及系列模型后续相继开源，敬请关注。\n\n## 更新\n\n- 🌟 2023\u002F05\u002F30：公开发布\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fentity303\u002Flawgpt-lora-7b-v2\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModel-LaWGPT--7B--beta1.1-yellow\">\u003C\u002Fa>\n \n  - **LaWGPT-7B-beta1.1**：法律对话模型，构造 35w 高质量法律问答数据集基于 Chinese-alpaca-plus-7B 指令精调\n\n- 📣 2023\u002F05\u002F26：开放 [Discussions 讨论区](https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002FLaWGPT\u002Fdiscussions)，欢迎朋友们交流探讨、提出意见、分享观点！\n\n- 🛠️ 2023\u002F05\u002F22：项目主分支结构调整，详见[项目结构](https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002FLaWGPT#项目结构)；支持[命令行批量推理](https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002FLaWGPT\u002Fblob\u002Fmain\u002Fscripts\u002Finfer.sh)\n\n- 🪴 2023\u002F05\u002F15：发布 [中文法律数据源汇总（Awesome Chinese Legal Resources）](https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002Fawesome-chinese-legal-resources) 和 [法律领域词表](https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002FLaWGPT\u002Fblob\u002Fmain\u002Fresources\u002Flegal_vocab.txt)\n\n- 🌟 2023\u002F05\u002F13：公开发布\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fentity303\u002Flegal-lora-7b\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModel-Legal--Base--7B-blue\">\u003C\u002Fa> \n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fentity303\u002Flawgpt-legal-lora-7b\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModel-LaWGPT--7B--beta1.0-yellow\">\u003C\u002Fa>\n  \n  - **Legal-Base-7B**：法律基座模型，使用 50w 中文裁判文书数据二次预训练\n  \n  - **LaWGPT-7B-beta1.0**：法律对话模型，构造 30w 高质量法律问答数据集基于 Legal-Base-7B 指令精调\n  \n- 🌟 2023\u002F04\u002F12：内部测试\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fentity303\u002Flawgpt-lora-7b\">\u003Cimg src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModel-Lawgpt--7B--alpha-yellow\">\u003C\u002Fa>\n  - **LaWGPT-7B-alpha**：在 Chinese-LLaMA-7B 的基础上直接构造 30w 法律问答数据集指令精调\n\n## 快速开始\n\n1. 准备代码，创建环境\n\n   ```bash\n   # 下载代码\n   git clone git@github.com:pengxiao-song\u002FLaWGPT.git\n   cd LaWGPT\n\n   # 创建环境\n   conda create -n lawgpt python=3.10 -y\n   conda activate lawgpt\n   pip install -r requirements.txt\n   ```\n2. **启动 web ui（可选，易于调节参数）**\n\n   - 首先，执行服务启动脚本：`bash scripts\u002Fwebui.sh`\n\n   - 其次，访问 http:\u002F\u002F127.0.0.1:7860 ：\n\n   \u003Cp align=\"center\">\n      \u003Cimg style=\"border-radius: 50%; box-shadow: 0 0 10px rgba(0,0,0,0.5); width: 80%;\", src=\".\u002Fassets\u002Fdemo\u002Fexample-03.jpeg\">\n   \u003C\u002Fp>\n   \n3. **命令行推理（可选，支持批量测试）**\n\n   - 首先，参考 `resources\u002Fexample_infer_data.json` 文件内容构造测试样本集；\n   \n   - 其次，执行推理脚本：`bash scripts\u002Finfer.sh`。其中 `--infer_data_path` 参数为测试样本集路径，如果为空或者路径出错，则以交互模式运行。\n\n注意，以上步骤的默认模型为 LaWGPT-7B-alpha ，如果您想使用 LaWGPT-7B-beta1.0 模型：\n\n- 由于 [LLaMA](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama) 和 [Chinese-LLaMA](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca) 均未开源模型权重。根据相应开源许可，**本项目只能发布 LoRA 权重**，无法发布完整的模型权重，请各位谅解。\n\n- 本项目给出[合并方式](https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002FLaWGPT\u002Fwiki\u002F%E6%A8%A1%E5%9E%8B%E5%90%88%E5%B9%B6)，请各位获取原版权重后自行重构模型。\n\n\n## 项目结构\n\n```bash    \nLaWGPT\n├── assets    # 静态资源\n├── resources # 项目资源\n├── models    # 基座模型及 lora 权重\n│   ├── base_models\n│   └── lora_weights\n├── outputs   # 指令微调的输出权重\n├── data      # 实验数据\n├── scripts   # 脚本目录\n│   ├── finetune.sh # 指令微调脚本\n│   └── webui.sh    # 启动服务脚本\n├── templates # prompt 模板\n├── tools     # 工具包\n├── utils\n├── train_clm.py  # 二次训练\n├── finetune.py   # 指令微调\n├── webui.py      # 启动服务\n├── README.md\n└── requirements.txt\n```\n\n\n## 数据构建\n\n本项目基于中文裁判文书网公开法律文书数据、司法考试数据等数据集展开，详情参考[中文法律数据源汇总（Awesome Chinese Legal Resources）](https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002Fawesome-chinese-legal-resources)。\n\n1. 初级数据生成：根据 [Stanford_alpaca](https:\u002F\u002Fgithub.com\u002Ftatsu-lab\u002Fstanford_alpaca#data-generation-process) 和 [self-instruct](https:\u002F\u002Fgithub.com\u002Fyizhongw\u002Fself-instruct) 方式生成对话问答数据\n2. 知识引导的数据生成：通过 Knowledge-based Self-Instruct 方式基于中文法律结构化知识生成数据。\n3. 引入 ChatGPT 清洗数据，辅助构造高质量数据集。\n\n## 模型训练\n\nLawGPT 系列模型的训练过程分为两个阶段：\n\n1.  第一阶段：扩充法律领域词表，在大规模法律文书及法典数据上预训练 Chinese-LLaMA\n2.  第二阶段：构造法律领域对话问答数据集，在预训练模型基础上指令精调\n\n### 二次训练流程\n\n1. 参考 `resources\u002Fexample_instruction_train.json` 构造二次训练数据集\n2. 运行 `scripts\u002Ftrain_clm.sh` \n\n### 指令精调步骤\n\n1. 参考 `resources\u002Fexample_instruction_tune.json` 构造指令微调数据集\n2. 运行 `scripts\u002Ffinetune.sh` \n\n### 计算资源\n\n8 张 Tesla V100-SXM2-32GB ：二次训练阶段耗时约 24h \u002F epoch，微调阶段耗时约 12h \u002F epoch\n\n## 模型评估\n\n### 输出示例\n\n\u003Cdetails>\u003Csummary>问题：酒驾撞人怎么判刑？\u003C\u002Fsummary>\n\n![](assets\u002Fdemo\u002Fdemo07.jpeg)\n\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>问题：请给出判决意见。\u003C\u002Fsummary>\n\n![](assets\u002Fdemo\u002Fexample-05.jpeg)\n\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>问题：请介绍赌博罪的定义。\u003C\u002Fsummary>\n\n![](assets\u002Fdemo\u002Fexample-06.jpeg)\n\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>问题：请问加班工资怎么算？\u003C\u002Fsummary>\n\n![](assets\u002Fdemo\u002Fexample-04.jpeg)\n\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>问题：民间借贷受国家保护的合法利息是多少?\u003C\u002Fsummary>\n\n![](assets\u002Fdemo\u002Fexample-02.jpeg)\n\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>问题：欠了信用卡的钱还不上要坐牢吗？\u003C\u002Fsummary>\n\n![](assets\u002Fdemo\u002Fexample-01.jpeg)\n\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>问题：你能否写一段抢劫罪罪名的案情描述？\u003C\u002Fsummary>\n\n![](assets\u002Fdemo\u002Fexample-03.jpeg)\n\n\u003C\u002Fdetails>\n\n\n### 局限性\n\n由于计算资源、数据规模等因素限制，当前阶段 LawGPT 存在诸多局限性：\n\n1. 数据资源有限、模型容量较小，导致其相对较弱的模型记忆和语言能力。因此，在面对事实性知识任务时，可能会生成不正确的结果。\n2. 该系列模型只进行了初步的人类意图对齐。因此，可能产生不可预测的有害内容以及不符合人类偏好和价值观的内容。\n3. 自我认知能力存在问题，中文理解能力有待增强。\n\n请诸君在使用前了解上述问题，以免造成误解和不必要的麻烦。\n\n\n## 协作者\n\n如下各位合作开展（按字母序排列）：[@cainiao](https:\u002F\u002Fgithub.com\u002Fherobrine19)、[@njuyxw](https:\u002F\u002Fgithub.com\u002Fnjuyxw)、[@pengxiao-song](https:\u002F\u002Fgithub.com\u002Fpengxiao-song)、[@WNJXYK](https:\u002F\u002Fgithub.com\u002FWNJXYK)\n\n指导老师：李宇峰、郭兰哲、涂威威（\u003Cimg src=\"https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002FLaWGPT\u002Fassets\u002F47233927\u002F3ae2cfac-f2b0-4383-8a7e-0252d8558aed\" width=\"10%\" >），由南京大学机器学习与数据挖掘研究组（\n\u003Cimg src=\"assets\u002Flogo\u002Flamda.png\" width=\"8%\"> &nbsp;\n）支持\n\n\n## 免责声明\n\n请各位严格遵守如下约定：\n\n1. 本项目任何资源**仅供学术研究使用，严禁任何商业用途**。\n2. 模型输出受多种不确定性因素影响，本项目当前无法保证其准确性，**严禁用于真实法律场景**。\n3. 本项目不承担任何法律责任，亦不对因使用相关资源和输出结果而可能产生的任何损失承担责任。\n\n\n## 问题反馈\n\n如有问题，请在 GitHub Issue 中提交。\n\n- 提交问题之前，建议查阅 FAQ 及以往的 issue 看是否能解决您的问题。\n- 请礼貌讨论，构建和谐社区。\n\n协作者科研之余推进项目进展，由于人力有限难以实时反馈，给诸君带来不便，敬请谅解！\n\n\n## 致谢\n\n本项目基于如下开源项目展开，在此对相关项目和开发人员表示诚挚的感谢：\n\n- Chinese-LLaMA-Alpaca: https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca\n- LLaMA: https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fllama\n- Alpaca: https:\u002F\u002Fgithub.com\u002Ftatsu-lab\u002Fstanford_alpaca\n- alpaca-lora: https:\u002F\u002Fgithub.com\u002Ftloen\u002Falpaca-lora\n- ChatGLM-6B: https:\u002F\u002Fgithub.com\u002FTHUDM\u002FChatGLM-6B\n\n此外，本项目基于开放数据资源，详见 [Awesome Chinese Legal Resources](https:\u002F\u002Fgithub.com\u002Fpengxiao-song\u002Fawesome-chinese-legal-resources)，一并表示感谢。\n\n\n## 引用\n\n如果您觉得我们的工作对您有所帮助，请考虑引用该项目。\n\n```plain\n@misc{lawgpt,\n      title={LawGPT: A Chinese Legal Knowledge-Enhanced Large Language Model}, \n      author={Zhi Zhou and Jiang-Xin Shi and Peng-Xiao Song and Xiao-Wen Yang and Yi-Xuan Jin and Lan-Zhe Guo and Yu-Feng Li},\n      year={2024},\n      eprint={2406.04614},\n      archivePrefix={arXiv},\n      primaryClass={cs.CL}\n}\n```\n","LaWGPT 是一个基于中文法律知识的大语言模型，旨在增强对法律内容的理解和执行能力。该项目通过在通用中文基座模型（如 Chinese-LLaMA、ChatGLM 等）上扩充法律领域专有词表，并利用大规模中文法律语料进行预训练，从而提升了模型的基础语义理解能力。此外，通过构造法律领域对话问答数据集和中国司法考试数据集进行指令精调，进一步增强了模型的专业性。LaWGPT 适合应用于需要高质量法律咨询、文书生成或相关研究的场景中，如律师事务所、法学院校及司法机构等。项目采用 Python 编写，并在 GitHub 上开放源代码，遵循 GNU General Public License v3.0 许可证。",2,"2026-06-11 03:36:00","high_star"]