AIephant-AI-Agent-Gateway

Alephant 是一个开源的AI代理网关，用于路由、跟踪和控制跨AI代理、成员和工作流的LLM使用，并支持通过x402和MPP支付轨道发布付费端点。该项目采用Rust语言开发，能够兼容50多个提供商和320多种模型，包括自定义模型后端。它提供流量路由、API适配、响应缓存、策略执行以及全面的请求观察功能，同时针对代理场景特别设计了身份管理、运行时策略、预算控制、会话追踪等功能。适用于需要高效管理和优化AI服务成本的企业或开发者，无论是托管还是自部署环境都能良好运行。