john-rocky

coreai-model-zoo

john-rocky

Community model zoo + knowledge base for Apple Core AI (iOS/macOS 27): Qwen3.5 & Gemma 4 converted end-to-end, verified on-device (iPhone 17 Pro GPU/ANE), conversion gotchas, custom Metal kernels, Swift runner

AI 简介

这是一个面向苹果 Core AI 框架(iOS 27 / macOS 27)的开源模型仓库,提供经端侧验证的轻量级大语言模型(LLM)与多模态模型(如 Qwen3.5/3.6、Gemma 4、GLM-4.7、LFM2.5、Granite 4.0、Qwen3-VL、MiniCPM-V 等)的完整端到端转换结果(.aimodel 格式),包含 Metal 自定义算子、ANE/GPU 适配细节、量化(QAT int4)支持及 Swift 运行示例。项目聚焦于在 iPhone(含 iPhone 17 Pro)、Mac 等 Apple 设备上高效运行模型,适用于离线推理、本地 RAG、端侧语义搜索、视觉语言理解等隐私敏感或低延迟场景。

Python
Other
326
Stars
19
Forks
4
Watchers
2
Issues

Star 增长

今日0
近 7 天0
近 30 天+89
综合评分52.8
默认分支main