experientiallabs

experiential

experientiallabs

Experiential is the open source, zero markup gateway for BYOK, self-hosted and 1000+ marketplace models. It learns from your traffic to cut costs, recommend better models, and train a specialized model you own.

AI 简介

Experiential 是一个开源的、零标记(zero markup)LLM 网关与智能路由系统,用于统一接入和调度 BYOK(自带密钥)、自托管及 Marketplace 中的 1000+ 大模型。它提供 OpenAI 兼容 API,支持细粒度访问控制(按用户/代理/场景/预算)、实时流量分析,并基于生产请求自动优化模型选型、降低成本,还可训练专属微调模型。适用于多模型混合部署、AI 代理工作流编排、企业级 LLM 成本治理与模型可观测性等场景。

Python
1.9k
Stars
103
Forks
0
Watchers
0
Issues

Star 增长

今日0
近 7 天0
近 30 天0
综合评分19.05
默认分支main