
litellm-rust
LiteLLM-Labs
A minimal Rust gateway built for coding agents (LiteLLM-Compatible)
AI 简介
这是一个轻量级、高性能的 Rust 编写的 LiteLLM 兼容 AI 网关,专为编码智能体(如 Claude Code、Codex、Hermes)设计。核心功能包括:支持多模型路由、统一 API 代理(/messages、/responses 等标准路径)、内置模型成本与能力映射加载、主密钥认证及沙箱集成(E2B/Daytona)。技术上采用 Rust 构建,强调低延迟与可靠性,并复用 LiteLLM 的配置体系(config.yaml)和部署生态。适用于本地开发环境中的编码助手接入、企业内部 LLM 调度网关、以及需要轻量代理层的 AI 工具链集成场景。
TypeScript
MIT License178
Stars
18
Forks
3
Watchers
2
Issues
Star 增长
今日0
近 7 天0
近 30 天+20
综合评分45.84
默认分支main