tiygate

TiyGate 是一款面向高可用大语言模型（LLM）服务的轻量级开源网关，用于统一接入和调度多个 LLM 提供商（如 OpenAI、Gemini、Anthropic、Bedrock 及各类 OpenAI 兼容服务）。它支持多协议（Messages、Responses、Embeddings 等）适配，提供基于策略的虚拟模型路由、自动故障转移与恢复、细粒度请求/响应日志捕获，以及本地零配置桌面部署或容器化集群部署。适用于需整合多供应商 API、提升服务稳定性、简化调试与用量分析的个人开发者及中小团队场景。