0xPlaygrounds

rig

0xPlaygrounds

⚙️🦀 Build modular and scalable LLM Applications in Rust

AI 简介

Rig 是一个基于 Rust 的开源库,用于构建模块化、可扩展的大型语言模型(LLM)应用。它提供统一接口集成 20+ LLM 服务商、10+ 向量数据库,并原生支持智能体(Agent)工作流、多轮流式交互、生成式 AI 语义规范(GenAI SemConv)、文本/音频/图像多模态能力及嵌入与补全任务。其设计强调内存安全、高性能与生产就绪的可观测性,适用于需要高并发、低延迟和强类型保障的 LLM 服务编排、AI 应用后端或 LLMOps 工具链开发场景。

Rust
MIT License
7.9k
Stars
876
Forks
58
Watchers
51
Issues

Star 增长

今日0
近 7 天0
近 30 天+117
综合评分74.83
默认分支main