oh-my-free-models

oh-my-free-models 是一个本地运行的代理服务，用于实时将编码类AI代理（如代码生成工具）自动路由至当前延迟最低、可用性最高的免费大语言模型。它支持 OpenAI 和 Anthropic 兼容接口，内置低延迟探测、429/402 错误冷却剔除、多提供商（OpenRouter/NVIDIA）动态轮询与配额感知路由，并提供本地 token 统计与 Anthropic 工具调用兼容层。适用于依赖免费LLM进行自动化编程任务（如Copilot插件、CLI代码助手）的开发者，在网络波动、限流频繁或模型服务不稳定时提升请求成功率与响应时效。