harbor

Stop configuring your AI stack. Start using it. One command brings a complete pre-wired LLM stack with hundreds of services to explore.

AI 简介

Harbor 是一个用于快速部署本地大语言模型（LLM）服务栈的自动化工具，通过单条命令即可启动预集成、开箱即用的 AI 服务环境。它基于 Docker 和 Docker Compose 编排数百个标准化 AI 组件（如推理服务、RAG 工具、API 网关等），支持 Safetensors 模型加载、MCP 协议集成，并提供 CLI 管理界面。项目采用 Python 实现，强调自托管、离线可用与 Homelab 友好性，适用于个人开发者快速验证 LLM 应用、构建本地 AI 实验平台或搭建轻量级私有 AI 服务器。