llmware

llmware 是一个面向企业级场景的本地化 RAG（检索增强生成）应用构建框架，专为在笔记本电脑、边缘设备和私有服务器上部署轻量、专用大模型而设计。其核心功能包括：300+预优化模型（含50+自研SLIM/Bling/Dragon/Industry-BERT等RAG专用小模型），支持GGUF、ONNX、OpenVINO等多种推理后端；以及端到端RAG流水线，覆盖文档解析、知识库构建、语义检索与生成集成。技术特点强调低资源占用、跨平台兼容（Windows/macOS/Linux）、私有数据安全及开箱即用的本地运行能力。适用于金融、法律、医疗等需高可控性、低延迟、强数据隔离的知识密集型行业自动化场景。