flow-llm-router

Flow-LLM-Router 是一个本地部署的 LLM 请求路由与成本优化中间件，旨在降低 AI 代理的 Token 消耗与调用成本。它提供 OpenAI 兼容 API 网关、多模型智能路由（支持 OpenAI/Anthropic/Gemini/Qwen 等）、本地 SQLite 日志与 Token 分析仪表盘、加密 API 密钥管理及动态技能加载能力。所有请求元数据与凭证均保留在本地，无需上传至第三方服务。适用于构建 AI Agent、Copilot 或自动化工作流的企业开发团队和运维人员，尤其适合需统一网关、控制成本、保障数据隐私及进行细粒度 Token 审计的私有化部署场景。