LiteRT

LiteRT 是 Google 推出的端侧高性能机器学习与生成式 AI 推理框架，作为 TensorFlow Lite 的继任者，提供模型转换、优化与轻量级运行时支持。其核心特性包括 GPU/NPU 硬件加速、WebGPU/WASM 浏览器推理（LiteRT.js）、C++ 张量编程接口及面向 LLM 的端侧部署能力（LiteRT-LM）。适用于资源受限的边缘设备，如移动终端、嵌入式系统、IoT 设备及浏览器环境中的低延迟、隐私敏感型 AI 应用场景。