nexus-llm-router

Nexus-LLM-Router 是一个生产就绪的多大语言模型（LLM）智能路由网关，提供任务感知的模型选择、成本优化、故障自动降级与安全审计能力。它通过 OpenAI 兼容 API（/v1/chat/completions）对外暴露统一接口，内部基于提示复杂度、领域标签、实时延迟、模型成本、预算阈值等维度动态路由至 GPT、Claude、Gemini 等后端模型，并支持红队脱敏、令牌桶限流、Prometheus 成本监控与持久化审计日志。适用于需在质量、延迟与成本间协同优化的 AI 基础设施场景，尤其适合已部署多模型且面临预算管控、SLA 保障与合规审计需求的 MLOps 团队。