Tengine

Tengine 是一个轻量级、高性能、模块化的嵌入式端深度学习推理引擎，专为资源受限的AIoT设备设计。它采用C语言核心实现，支持CPU/GPU/NPU等异构硬件后端，具备前后端解耦架构、跨平台编译能力（ARM/MIPS/RISC-V/x86-64）、ONNX/TensorFlow/PyTorch模型转换支持，以及uint8/int8量化能力。项目提供tmfile模型格式、轻量级序列化器和可插拔调度器，显著降低边缘侧AI模型部署门槛。适用于智能摄像头、工业视觉、边缘网关、车载终端等对功耗、时延和内存敏感的嵌入式AI推理场景。