llama-swap

llama-swap 是一个轻量级本地模型路由与热切换代理工具，用于在单机环境统一接入和动态切换多个兼容 OpenAI/Anthropic API 的本地大模型服务（如 llama.cpp、vLLM、tabbyAPI、stable-diffusion.cpp 等）。它以零依赖 Go 二进制形式分发，支持全端点代理（包括 chat/completions、embeddings、images/generations、audio/transcriptions、rerank、SD API 等），提供模型启停、运行状态查询、日志流式监控及 Web UI。适用于需要灵活组合多模态本地模型、快速迭代推理后端或构建私有 AI 工作流的开发者与技术用户。