apple

coreai-torch

apple

Bridges PyTorch and Core AI. Convert existing models to Core AI IR, or author new ones from PyTorch via composite ops, custom op lowerings, and inline Metal GPU kernels.

AI 简介

coreai-torch 是一个用于将 PyTorch 模型转换为 Apple Core AI 中间表示(IR)的桥接工具。它支持从已导出的 ExportedProgram 或 nn.Module 构建 Core AI IR,提供复合算子库、自定义算子下放(register_torch_lowering)和内联 Metal GPU 核函数(TorchMetalKernel)等能力,保留调试信息并适配 Core AI 编译与推理栈。适用于在 Apple 设备(尤其是搭载 Metal 的 macOS/iOS 平台)上部署高性能、低延迟的机器学习模型,尤其适合需深度优化 GPU 执行路径的终端侧 AI 应用。

Python
BSD 3-Clause "New" or "Revised" License
106
Stars
19
Forks
6
Watchers
10
Issues

Star 增长

今日0
近 7 天0
近 30 天+15
综合评分45.4
默认分支main