LocalAI

LocalAI 是一个开源的本地化 AI 推理引擎，支持在任意硬件（包括无 GPU 的 CPU 设备）上运行大语言模型、语音合成、图像生成、视频理解等多模态 AI 模型。它提供 OpenAI/Anthropic 等主流 API 的兼容接口，集成 36+ 模型后端（如 llama.cpp、whisper、diffusers），支持多用户鉴权、配额管理、RAG 与自主 AI Agent，并强调数据不出本地的隐私保护设计。适用于私有化部署、边缘计算、企业内网 AI 服务及资源受限环境下的轻量级 AI 应用开发。