mlx-lm

mlx-lm 是一个专为 Apple Silicon（M 系列芯片）优化的 Python 工具包，用于本地运行、量化、微调和推理大语言模型（LLM）。它基于 MLX 框架，深度集成 Hugging Face Hub，支持一键加载数千个兼容模型；提供 4-bit 量化、LoRA/全参数微调、分布式推理与训练，并内置命令行工具（如 generate、chat）和易用的 Python API。适用于在 Mac 设备上进行轻量级 LLM 实验、原型开发、教育演示及边缘侧 AI 应用部署，无需 GPU 依赖。