zylon-ai

private-gpt

zylon-ai

Complete API layer for private AI applications on local models: RAG, skills, tools, MCP, text-to-sql, and more. Works with any OpenAI-compatible inference server.

AI 简介

PrivateGPT 是一个本地化部署的私有文档问答系统,基于RAG架构实现完全离线、数据不出本地的LLM文档交互。核心功能包括文档自动解析、分块、嵌入生成与向量存储,支持高阶API(一键问答/聊天)和低阶API(嵌入生成、语义检索),兼容OpenAI API协议并提供Gradio可视化界面。技术上采用Python构建,集成多种开源嵌入模型与LLM后端(如Llama、Phi等),无需联网即可运行。适用于对数据隐私要求严格的场景,如金融、政务、医疗、国防等领域的内部知识库查询与合规性文档分析。

Python
Apache License 2.0
57.3k
Stars
7.6k
Forks
459
Watchers
3
Issues

Star 增长

今日0
近 7 天0
近 30 天+32
综合评分73.2
默认分支main