young-geng

EasyLM

young-geng

Large language models (LLMs) made easy, EasyLM is a one stop solution for pre-training, finetuning, evaluating and serving LLMs in JAX/Flax.

AI 简介

EasyLM 是一个基于 JAX/Flax 的大语言模型(LLM)全流程开发框架,支持预训练、微调、评估与推理部署。其核心特点是利用 JAX 的 pjit 实现跨数百个 TPU/GPU 的高效模型并行与数据并行训练,支持 LLaMA 系列模型(v1/v2/v3)的多机多卡分布式训练,并深度集成 Hugging Face Transformers 与 Datasets 生态。项目设计简洁可定制,适用于需要在 JAX 环境下进行大规模 LLM 训练与轻量级服务的研究团队或工程团队。

Python
Apache License 2.0
2.5k
Stars
259
Forks
37
Watchers
28
Issues

Star 增长

今日0
近 7 天0
近 30 天+1
综合评分59.34
默认分支main