mnfst

manifest

mnfst

Connect Your Agents And Harnesses With Any Provider 🦚

AI 简介

Manifest 是一个智能模型路由工具,专为代理和AI应用程序设计,通过将每个查询导向最合适的模型来节省高达70%的AI成本。其核心功能包括基于复杂度、特异性和自定义HTTP头的智能路由选择;支持混合使用多种提供商如API密钥、订阅服务、本地模型及自定义提供商;提供详细的成本追踪与通知设置;以及在查询失败时自动切换到备用模型的能力。Manifest 适用于需要优化AI资源消耗并降低相关费用的企业或个人开发者场景中,特别是那些依赖于多模型架构的应用程序。项目采用TypeScript编写,遵循MIT许可协议,并提供了云托管和自托管两种部署方式。

TypeScript
MIT License
6.9k
Stars
428
Forks
27
Watchers
43
Issues

Star 增长

今日0
近 7 天+125
近 30 天+465
综合评分93.9
默认分支main