
serve
jina-ai
☁️ Build multimodal AI applications with cloud-native stack
AI 简介
Jina-Serve 是一个面向多模态 AI 服务的云原生框架,用于构建、编排和部署基于 gRPC/HTTP/WebSocket 的 AI 微服务。它提供 DocArray 数据模型、Executor 组件化抽象、动态批处理与流式响应支持,并内置 Docker/Kubernetes 集成、可观测性(OpenTelemetry/Jaeger/Prometheus)及一键云端部署能力。适用于需要快速迭代、弹性伸缩与多模型协同的 LLM 推理、神经搜索、多模态管道等生产级 AI 应用场景。
Python
Apache License 2.021.9k
Stars
2.2k
Forks
210
Watchers
1
Issues
Star 增长
今日0
近 7 天0
近 30 天+5
综合评分45
默认分支master