
freellmapi
tashfeenahmed
OpenAI-compatible proxy that stacks the free tiers of 16 LLM providers (~1.7B tokens/month) behind one /v1 endpoint — plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.
AI 简介
FreeLLMAPI 是一个开源的 OpenAI 兼容代理服务,聚合多个 LLM 提供商的免费额度(支持 Google、Groq、Mistral 等 11+ 家),统一暴露为标准 `/v1/chat/completions` 接口。核心功能包括智能路由(按模型能力/延迟/配额动态选 provider)、自动故障转移、密钥加密存储及精细化的 per-key token 使用追踪,确保不超各平台免费限额。适用于个人开发者快速实验多模型能力、构建低成本原型或本地 AI 工具链,不面向生产级高可用场景。
TypeScript
MIT License15.8k
Stars
2.3k
Forks
68
Watchers
21
Issues
Star 增长
今日0
近 7 天0
近 30 天+2665
综合评分80
默认分支main