HotRiceNoodles

CrossLink

HotRiceNoodles

Unified large model proxy gateway, providing load balancing, fault transfer, current limiting, budget management, content auditing, caching, and MCP gateway capabilities.

AI 简介

CrossLink 是一个统一的大语言模型(LLM)API 代理网关,为多厂商 LLM 服务提供标准化接入层。核心功能包括双协议兼容(OpenAI/Anthropic)、智能路由(支持加权、延迟感知等6种策略)、自动故障转移、请求限流、预算管控、内容安全审计、Redis 缓存及 MCP 网关能力;采用 Go 实现,内置管理看板与 RBAC 权限控制。适用于需对接多个 LLM 服务商(如 OpenAI、Anthropic、Qwen、Ollama 等)且强调高可用性、成本可控与合规审计的企业级 AI 应用场景。

Go
Apache License 2.0
262
Stars
9
Forks
2
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分3
默认分支main