agentgateway

Agentgateway 是一个面向AI代理和MCP服务器的新一代代理解决方案。它基于AI原生协议（如MCP和A2A）构建，为跨框架和环境的代理到大语言模型、工具以及代理之间的通信提供即插即用的安全性、可观察性和治理功能。该项目采用Rust语言开发，支持通过统一的OpenAI兼容API路由流量至主要的大语言模型提供商，并具备预算控制、提示增强、负载均衡及故障转移等特性；同时，还能够连接LLM与工具或外部数据源，并实现安全的代理间通信。适用于需要在复杂多样的AI生态系统中确保高效、安全且可控的数据交换场景。