nexa-sdk

NexaSDK 是一个面向端侧部署的高性能本地AI推理SDK，支持在GPU、NPU和CPU上运行前沿大语言模型（LLM）与多模态大模型（VLM），覆盖PC（Python/C++）、移动端（Android/iOS）及Linux/IoT（Arm64/x86 Docker）全平台。其核心特点是提供开箱即用的Day-0模型支持、跨硬件统一运行时、低功耗优化，已率先适配Qwen3-VL、Gemma-3n、Granite-4、Ministral-3等主流开源模型。适用于对隐私敏感、低延迟或离线运行有要求的终端智能场景，如智能手机AI助手、边缘设备视觉理解、车载多模态交互等。