TurboLLM

TurboLLM 是一个轻量级本地大语言模型（LLM）运行时管理工具，支持自动适配用户 GPU 的任意 llama.cpp 兼容引擎，并提供开箱即用的 Web UI 与 OpenAI/Anthropic 协议兼容的 API。其核心技术特点是零编译、纯 TypeScript 实现、离线优先、无需 Python 或 Electron，通过单条命令即可启动服务并接入主流 LLM 工具（如 Claude Code）。适用于开发者本地调试、私有化部署、边缘设备推理及需要灵活切换底层推理引擎的 AI 应用场景。