iree

IREE 是一个基于 MLIR 的端到端机器学习编译器与运行时工具包，用于将 ML 模型（如 PyTorch、JAX、TensorFlow、ONNX）编译为可跨平台高效执行的统一中间表示。其核心支持多后端目标（CUDA、Vulkan、SPIR-V、ROCm）和多层级优化，兼顾数据中心高性能部署与移动端/边缘设备的资源约束。适用于需要低延迟、高能效 ML 推理的嵌入式、移动及异构硬件场景，尤其适合对编译可控性、硬件适配灵活性要求较高的工业级部署。