
freellmapi
tashfeenahmed
OpenAI-compatible proxy that stacks the free tiers of 16 LLM providers (~1.7B tokens/month) behind one /v1 endpoint — plus any custom OpenAI-compatible endpoint. Smart routing, automatic failover, encrypted keys. Personal experimentation only.
AI 简介
FreeLLMAPI 是一个兼容OpenAI的代理服务,它聚合了来自约14家AI提供商的免费层级密钥,并具备自动故障转移功能。该项目使用TypeScript编写,支持多种主流AI模型如Google的Gemini、Groq的Llama系列等,通过统一的`/v1/chat/completions`接口提供服务。其核心特性包括加密存储密钥、智能路由选择最佳可用模型以应对请求、当某一服务商达到速率限制时自动切换至下一个供应商,并跟踪每个密钥的使用情况确保不超出免费限额。适用于个人实验场景下的自然语言处理任务探索与开发。
TypeScript
MIT License9.3k
Stars
1.5k
Forks
41
Watchers
17
Issues
Star 增长
今日0
近 7 天+1264
近 30 天+7155
综合评分95.53
默认分支main