agent-router

Agent Router 是一个基于 Envoy Gateway 构建的开源 AI 流量控制平面，用于统一接入和管理生成式 AI 服务。它提供 OpenAI 兼容的统一 API 接口，支持对接托管模型（如 OpenAI、Anthropic）、自托管推理服务及 MCP 工具服务器，并集中管控认证、路由策略、配额限流、故障转移与用量归因。核心依托 Envoy 的高性能代理能力与可扩展控制面设计，采用声明式 CRD（如 AIGatewayRoute）实现 Kubernetes 原生集成。适用于需要统一网关层治理多源 AI 模型调用的企业平台团队或 MLOps 基础设施场景。