
MedicalGPT
shibing624
MedicalGPT: Training Your Own Medical GPT Model with ChatGPT Training Pipeline. 训练医疗大模型,实现了包括增量预训练(PT)、有监督微调(SFT)、RLHF、DPO、ORPO、GRPO。
AI 简介
MedicalGPT 是一个用于训练医疗领域大模型的项目,它基于ChatGPT的训练流程实现了包括增量预训练、有监督微调、RLHF(奖励建模与强化学习)、DPO(直接偏好优化)以及独立OPD(在线策略蒸馏)等技术。该项目使用Python语言开发,遵循Apache License 2.0许可协议。其核心功能在于提供了一套完整的医疗大模型训练方案,涵盖了从基础模型到高级调优的全过程。适合于需要构建或优化面向特定医疗应用场景的大规模语言模型的研究者和开发者使用,如智能诊断辅助系统、医学知识问答服务等。
Python
Apache License 2.05.5k
Stars
761
Forks
39
Watchers
5
Issues
Star 增长
今日0
近 7 天+33
近 30 天+119
综合评分91.15
默认分支main