llmware

llmware 是一个用于构建基于知识的企业级检索增强生成（RAG）管道的统一框架，特别适用于小型、专业化的模型。其核心功能包括一个包含300多种预优化模型的目录，支持GGUF、OpenVINO、ONNXRuntime等技术，并提供了一套完整的RAG管道组件，能够实现从文档解析到知识库创建的全过程。该项目适合需要在本地、私有和安全环境下部署AI应用的企业场景，如企业流程自动化，能够在Windows、Mac及Linux平台上运行，支持边缘计算和自托管部署，旨在以最小的计算资源实现高效准确的AI处理。