dalai

Dalai 是一个用于在本地机器上便捷运行 LLaMA 和 Alpaca 大语言模型的轻量级工具。它基于 llama.cpp 和 alpaca.cpp，支持跨平台（Windows/macOS/Linux），提供一键安装、量化模型下载、内置 Web 界面及 JavaScript/Socket.io API，显著降低本地部署门槛。项目主打极简命令行体验（如 npx dalai alpaca install 7B），适配主流消费级硬件（4GB+ 内存即可运行 7B 量化模型），适用于个人开发者、AI 爱好者进行本地推理、原型验证与离线实验。