gateway

Portkey AI Gateway 是一个高性能开源AI网关，用于统一接入和智能路由至1600+大语言模型及多模态模型，并内置50+安全与合规防护规则（guardrails）。其核心特点包括亚毫秒级延迟、122KB轻量体积、自动重试/回退、负载均衡、模型熔断与可观测性支持，基于TypeScript构建，兼容OpenAI等主流API协议。适用于需要统一管理多模型供应商、保障服务稳定性、实施内容安全策略的AI应用开发与LLMOps生产环境。