
firnflow
gordonmurray
The cost efficiency of S3 with the speed of local RAM. A multi-tenant vector and full-text search engine featuring a tiered RAM -> NVMe -> S3 architecture for microsecond latency on top of object storage
AI 简介
Firn(firnflow)是一个面向云原生场景的高性能、多租户向量与全文检索引擎,通过分层缓存架构(RAM → NVMe → S3)在对象存储之上实现微秒级查询延迟。其核心基于LanceDB提供向量与BM25检索能力,结合foyer构建混合内存/NVMe缓存,显著降低S3请求频次与云成本;支持AWS S3、MinIO等主流对象存储后端,并提供Prometheus监控与多租户隔离。适用于需兼顾低成本存储与低延迟检索的AI应用,如RAG服务、语义搜索平台及向量数据库替代方案。
Rust
Apache License 2.0435
Stars
25
Forks
2
Watchers
14
Issues
Star 增长
今日0
近 7 天0
近 30 天+23
综合评分4.24
默认分支main