ogx

OGX 是一个开源的、模型无关的 AI 代理 API 服务器，提供与 OpenAI 兼容的 REST 接口，支持在本地、私有数据中心或云环境一键部署。核心功能包括标准化的聊天补全、文本补全和嵌入向量接口，具备多模型适配（如 Llama、GPT、Gemini、Mistral）、多后端调度（vLLM、TGI、Ollama 等）及 SDK 无关的客户端兼容能力。技术特点涵盖轻量级 Python 实现、Docker 容器化分发、OpenAI 协议严格兼容性验证（OpenResponses Conformance），以及面向生产环境的可观测性与扩展设计。适用于需要私有化部署、多模型统一接入、或快速迁移现有 OpenAI 应用的企业级 AI 工程场景。