bestruirui

octopus

bestruirui

One Hub All LLMs For You | 为个人打造的 LLM API 聚合网关

AI 简介

Octopus 是一个为个人打造的 LLM API 聚合服务。它支持多渠道聚合、多密钥管理,并具备智能选择延迟最低端点和自动负载均衡等功能,确保服务稳定高效。此外,Octopus 还提供了协议转换、价格同步、模型同步、请求统计及成本跟踪等特性,以及简洁美观的Web管理界面。该项目使用TypeScript开发,支持SQLite、MySQL和PostgreSQL等多种数据库。适用于需要整合多个LLM提供商API并进行统一管理和优化的个人开发者或小型团队。

TypeScript
GNU Affero General Public License v3.0
2.2k
Stars
305
Forks
12
Watchers
56
Issues

Star 增长

今日0
近 7 天+19
近 30 天+90
综合评分77.96
默认分支dev