LLMRouter

LLMRouter 是一个开源的大型语言模型（LLM）智能路由库，用于根据查询特征动态选择最优LLM以平衡性能、成本与延迟。其核心支持16+种路由算法，涵盖单轮/多轮决策、基于代理的调度及个性化路由四大类，包括KNN、SVM、BERT、图神经网络、Elo评分等模型；提供统一CLI工具、Gradio交互界面及端到端数据生成与评估流水线。适用于多模型服务部署、推理成本优化、A/B测试及企业级LLM网关等场景。