gateway

Portkey-AI/gateway 是一个快速且安全的AI网关，能够连接超过1600种语言、视觉、音频和图像模型。该项目采用TypeScript编写，具备极低延迟（<1ms）和轻量级（122kb）的特点，并支持自动重试和故障转移功能，确保服务高可用性。此外，它还提供负载均衡和自定义部署选项，适用于需要大规模处理AI请求的企业级应用场景。无论是快速集成各类语言模型还是构建复杂的人工智能应用，Portkey-AI/gateway 都能提供稳定高效的支持。