charent

ChatLM-mini-Chinese

charent

中文对话0.2B小模型(ChatLM-Chinese-0.2B),开源所有数据集来源、数据清洗、tokenizer训练、模型预训练、SFT指令微调、RLHF优化等流程的全部代码。支持下游任务sft微调,给出三元组信息抽取微调示例。

AI 简介

这是一个面向中文对话场景的轻量级生成式语言模型(0.2B参数),完整开源从数据清洗、Tokenizer训练、预训练、SFT指令微调到DPO偏好优化的全流程代码与实践。技术上采用Text-to-Text架构(非掩码预测),支持流式大数据集加载、断点续训、LoRA高效微调及模型合并;推理仅需512MB显存,预训练最低适配4GB显存GPU。适用于资源受限环境下的中文对话系统构建、指令微调实验、信息抽取等下游任务快速验证,也适合作为教学或二次开发的可复现小模型基线。

Python
Apache License 2.0
1.7k
Stars
194
Forks
13
Watchers
10
Issues

Star 增长

今日0
近 7 天0
近 30 天+5
综合评分55.37
默认分支main