
wayfinder-router
itsthelore
Simple CLI tool for deterministic routing of queries between local and hosted LLM models
AI 简介
Wayfinder Router 是一个命令行工具,用于在本地与托管大语言模型之间进行确定性查询路由。它通过分析提示词的结构(如长度、标题、代码块)和语义特征(如数学表达、严格约束)生成0.0–1.0复杂度分数,无需调用任何模型即可完成毫秒级、完全离线的路由决策。支持用户基于自有数据校准,并灵活对接双层或多层模型后端。适用于成本敏感型LLM应用,例如在边缘设备或私有环境中自动分流简单任务(如语法修正)至轻量模型、复杂任务(如推理证明)至高性能云端模型。
Python
Apache License 2.0366
Stars
20
Forks
1
Watchers
1
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分43.97
默认分支main