Linly

CVI-SZU/Linly项目提供了中文LLaMA 1&2、Chinese-Falcon基础模型以及ChatFlow中文对话模型。该项目通过使用中文和中英平行语料对LLaMA和Falcon进行增量预训练，提升了这些模型在中文上的表现，并利用大规模指令数据集进行微调，增强了模型的对话能力。此外，还开源了从头训练的Linly-OpenLLaMA模型（3B、7B、13B版本），针对中文进行了优化。此项目适合需要中文自然语言处理能力的应用场景，如构建聊天机器人、文本生成等，并提供了完整的训练与部署流程支持，包括多种量化方案以适应不同硬件环境的需求。