serge

Serge 是一个基于 llama.cpp 的本地化大语言模型（LLM）Web 聊天界面，支持在本地或私有服务器上完全离线运行 Alpaca 等兼容 LLaMA 架构的模型。它采用 SvelteKit 前端 + FastAPI 后端架构，集成 Redis 存储对话历史与参数，提供 Docker 一键部署、RESTful API 及 Swagger 文档。项目无需外部 API 密钥，强调隐私性与自托管能力，适用于个人研究、企业内网知识问答、轻量级 AI 助手原型开发等对数据不出域有明确要求的场景。