ollama

Ollama 是一个轻量级开源工具，用于在本地快速部署和运行各类开源大语言模型（LLM）。它提供统一命令行接口、REST API 和多语言 SDK（Python/JS），支持一键拉取、运行和管理模型（如 Qwen、Gemma、DeepSeek、GLM 等），并可集成至 AI 助手、代码工具及聊天应用。基于 Go 编写，采用 llama.cpp 等高效推理后端，无需复杂配置即可在 macOS、Windows 和 Linux 上离线运行。适用于本地 AI 开发、模型原型验证、私有化部署及边缘设备上的轻量级 LLM 应用场景。