
aimux
arcships
统一 LLM 服务接入层 — 一套 API 接入 172+ 家 AI 服务商
AI 简介
aimux 是一个用 Rust 编写的统一 LLM 服务接入层,提供单一标准接口(LanguageModel trait)对接 325+ 家 AI 服务商。其核心功能包括:全模态支持(文本、流式响应、工具调用、嵌入、图像、语音、视频、重排序等);基于 JSON 配置的动态 Provider 注册机制;零运行时抽象开销的 object-safe 接口设计;以及面向生产部署优化的轻量二进制(LTO、panic=abort 等)。它不涉及 Agent、RAG 或工作流编排,专注解决多供应商 API 协议碎片化问题,适用于需要快速切换或聚合多个 LLM 服务的中台系统、AI 网关、SaaS 应用后端及企业级 AI 基础设施。
Rust
MIT License150
Stars
6
Forks
108
Watchers
0
Issues
Star 增长
今日0
近 7 天0
近 30 天0
综合评分42.54
默认分支master