edge-lm

edge-lm 是一个专为边缘设备优化的微型大语言模型项目。其核心功能是通过 MLX 技术在 Apple Silicon Macs 和 iPhone 等设备上运行压缩后的大型语言模型，首个版本提供了目前公开可用的最小 Gemma 4 检查点，比原版小约7倍，同时保留了关键能力如通用世界知识、指令执行和工具使用。适合需要在移动设备或资源受限环境中高效部署语言模型的应用场景。