CoreML-LLM

CoreML-LLM 是一个在苹果设备上运行大语言模型（LLM）的项目，特别针对 Apple Neural Engine (ANE) 和 GPU 进行了优化。其核心功能包括支持多种预训练模型如 Gemma 4、Qwen3.5 等，并且能够直接在 iPhone 上通过 CoreML 执行文本生成、多模态处理及函数调用等任务，无需依赖服务器，同时保持较低的功耗。此外，它还允许用户以 Swift 包的形式轻松集成到自己的应用中，只需几行代码即可加载模型并开始生成内容。该项目非常适合需要在移动设备上离线运行复杂 AI 模型的应用场景，例如聊天机器人、图像识别助手或语音交互系统等。