Continuum-AI-Corp

OrcaRouter-Lite

Continuum-AI-Corp

Self-hosted LLM router with a managed safety net. OpenAI-compatible. BYOK. Single-workspace. Streaming. For more advanced routing choose hosted OrcaRouter

AI 简介

OrcaRouter Lite 是一个开源的自托管大语言模型(LLM)路由服务,提供 OpenAI 兼容 API 接口,支持多模型自动调度与安全兜底机制。核心功能包括 BYOK(自带密钥)、单工作区部署、流式响应、`model="auto"` 智能选型,以及内置 100+ 模型支持。技术上基于 Python 构建,采用轻量级服务架构,可通过 Docker 快速启动,兼容主流 OpenAI SDK。适用于需自主控制数据流向、规避厂商锁定、兼顾模型多样性与稳定性的本地 AI 应用场景,如企业内部知识助手、私有化 AI 平台集成或边缘侧推理网关。

Python
MIT License
510
Stars
50
Forks
10
Watchers
1
Issues

Star 增长

今日0
近 7 天0
近 30 天+1
综合评分49.22
默认分支main