[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"project-2833":3},{"id":4,"name":5,"fullName":6,"owner":7,"repo":5,"description":8,"homepage":9,"htmlUrl":9,"language":10,"languages":9,"totalLinesOfCode":9,"stars":11,"forks":12,"watchers":13,"openIssues":13,"contributorsCount":14,"subscribersCount":14,"size":14,"stars1d":15,"stars7d":16,"stars30d":17,"stars90d":14,"forks30d":14,"starsTrendScore":18,"compositeScore":19,"rankGlobal":9,"rankLanguage":9,"license":20,"archived":21,"fork":21,"defaultBranch":22,"hasWiki":23,"hasPages":21,"topics":24,"createdAt":9,"pushedAt":9,"updatedAt":25,"readmeContent":26,"aiSummary":27,"trendingCount":14,"starSnapshotCount":14,"syncStatus":28,"lastSyncTime":29,"discoverSource":30},2833,"llama-cpp-desktop","Qiao-920\u002Fllama-cpp-desktop","Qiao-920","Windows desktop control panel for local llama.cpp server",null,"JavaScript",225,34,1,0,17,25,119,51,87.13,"MIT License",false,"main",true,[],"2026-06-12 04:00:16","\u003Cdiv align=\"center\">\n  \u003Cimg src=\"assets\u002Fllama-cpp.png\" width=\"88\" alt=\"Llama.cpp Desktop logo\" \u002F>\n\n  \u003Ch1>Llama.cpp Desktop\u003C\u002Fh1>\n\n  \u003Cp>\n    一个给 Windows 本地 llama.cpp 准备的桌面端控制面板。\n    \u003Cbr \u002F>\n    启动服务、配置模型、查看日志、直接聊天和接入 OpenAI Compatible 客户端，都放在一个窗口里。\n  \u003C\u002Fp>\n\n  \u003Cp>\n    \u003Cimg alt=\"Windows\" src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FWindows-10%20%2F%2011-506f51?style=flat-square\" \u002F>\n    \u003Cimg alt=\"Electron\" src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FElectron-41-506f51?style=flat-square\" \u002F>\n    \u003Cimg alt=\"llama.cpp\" src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Fllama.cpp-local-506f51?style=flat-square\" \u002F>\n    \u003Cimg alt=\"License\" src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002Flicense-MIT-151713?style=flat-square\" \u002F>\n  \u003C\u002Fp>\n\u003C\u002Fdiv>\n\n![Llama.cpp Desktop preview](docs\u002Fdesktop-preview.svg)\n\n## 亮点\n\n| 功能 | 说明 |\n| --- | --- |\n| 本地直连 | 直接启动 llama.cpp 原版目录里的 `llama-server.exe`，不强依赖额外启动器 |\n| OpenAI 兼容 | 默认提供 `http:\u002F\u002F127.0.0.1:8080\u002Fv1`，可接入 OpenClaw、Claude Code 等客户端 |\n| 桌面聊天 | 内置网页端风格聊天页面，支持流式回复、历史对话、搜索和消息操作 |\n| 附件入口 | 支持图片、文本、PDF 等附件入口，图片可在聊天里预览 |\n| 模型信息 | 点击模型标签即可查看当前模型、上下文、GPU 层数和运行参数 |\n| 终端日志 | 在客户端里查看 llama.cpp 输出，方便排查启动和推理问题 |\n| 托盘后台 | 关闭窗口后隐藏到系统托盘，服务继续后台运行 |\n| 参数配置 | 支持模型路径、上下文、采样、GPU 层数、线程和批处理参数 |\n\n## 下载\n\n首次发布包会放在 GitHub Releases 页面：\n\n[打开 Releases](https:\u002F\u002Fgithub.com\u002FQiao-920\u002Fllama-cpp-desktop\u002Freleases)\n\n下载 `Llama.cpp-Desktop.exe` 后双击运行即可。项目本身不包含模型文件和 llama.cpp 二进制文件，需要你本机已经有可用的 llama.cpp Windows 构建目录。\n\n## 快速开始\n\n1. 下载并打开 `Llama.cpp-Desktop.exe`。\n2. 在设置里选择 llama.cpp 原文件目录，或直接选择 `llama-server.exe`。\n3. 选择你的 GGUF 模型文件。\n4. 保存配置并启动服务。\n5. 使用内置聊天，或把 `http:\u002F\u002F127.0.0.1:8080\u002Fv1` 接入 OpenAI 兼容客户端。\n\n## 开发运行\n\n```powershell\nnpm install\nnpm start\n```\n\n## 打包\n\n```powershell\nnpm run dist\n```\n\n打包产物会生成在 `dist\u002F`，该目录不会提交到 Git。\n\n## 当前限制 \u002F Roadmap\n\n- 当前主要面向 Windows 10 \u002F 11。Ubuntu、macOS 等跨平台版本需要继续适配路径、进程管理、托盘和打包配置。\n- 项目不内置 llama.cpp、模型文件、显卡驱动或 CUDA \u002F Vulkan 运行库，需要用户本机已有可用环境。\n- 图片入口可以预览并发送图片，但真正理解图片需要视觉模型和对应的 `mmproj` 多模态投影文件。\n- 普通文本模型不能因为上传了图片就自动具备看图能力；视频理解当前暂未支持。\n- ngram、多 GPU、speculative decoding 等高级能力可以先通过“自定义附加参数”传给本机 `llama-server`，具体是否生效取决于本地 llama.cpp 版本。\n- 如果桌面端速度和原生命令行差异明显，请先复制“最终启动命令”，对比 GPU layers、上下文、batch、ubatch、threads 等参数。\n- Qwen 等 thinking 模型是否输出 `\u003Cthink>` 内容取决于模型、模板和 `chat_template_kwargs`；桌面端会解析并折叠展示返回中的 `\u003Cthink>...\u003C\u002Fthink>`。\n\n## 项目结构\n\n```text\nassets\u002F      图标和托盘图标\ndesktop\u002F     Electron 主进程和预加载脚本\nrenderer\u002F    桌面端界面\nscripts\u002F     图标生成脚本\n```\n\n## 开源说明\n\n本仓库只包含桌面端源码，不包含：\n\n- llama.cpp 二进制文件\n- GGUF \u002F GGML 模型文件\n- 打包生成的 exe\n- 本地配置文件和运行日志\n\n## License\n\nMIT\n","Llama.cpp Desktop 是一个专为 Windows 设计的桌面控制面板，用于管理本地运行的 llama.cpp 服务器。其核心功能包括启动服务、配置模型、查看日志、直接聊天以及接入 OpenAI 兼容客户端。该应用基于 Electron 开发，提供了直观易用的图形界面，支持流式回复、历史对话、附件预览和模型信息展示等功能。适用于需要在本地运行大型语言模型并进行交互的场景，特别是对于希望利用已有 llama.cpp 环境的研究人员和开发者来说非常实用。通过简单的设置即可快速开始使用，极大简化了模型管理和调用过程。",2,"2026-06-11 02:51:18","CREATED_QUERY"]