llama-cpp-desktop

Llama.cpp Desktop 是一款面向 Windows 平台的本地大语言模型服务控制面板，用于统一管理 llama.cpp 的本地部署与交互。它支持一键启动 llama-server.exe、可视化配置 GGUF 模型参数（如上下文长度、GPU 层数、线程数）、内置流式聊天界面、实时终端日志查看、系统托盘后台驻留，并提供 OpenAI 兼容 API（http://127.0.0.1:8080/v1）供第三方客户端接入。项目基于 Electron 构建，不捆绑模型或二进制文件，依赖用户本地已配置的 llama.cpp 环境，适用于个人开发者、AI 爱好者及本地 LLM 实验场景。