mlx-lm

MLX LM 是一个用于在Apple芯片上运行和微调大型语言模型的Python包。它支持与Hugging Face Hub集成，可以轻松使用数千个预训练模型，并提供量化、上传模型等功能。此外，该项目还支持低秩和全模型微调，以及分布式推理和微调。适用于需要高效利用本地硬件资源进行自然语言处理任务的研究人员和开发者，尤其是在Apple设备上希望加速模型训练和推理过程的场景中。