ggml

ggml 是一个轻量级、无依赖的 C++ 张量计算库，专为在资源受限设备上高效运行机器学习模型而设计。核心功能包括整数量化支持、跨平台低开销实现、自动微分、ADAM/L-BFGS 优化器，以及零运行时内存分配特性。其 GGUF 模型格式被广泛用于 LLM 推理，尤其适配 CPU 端本地部署场景，如笔记本、嵌入式设备或私有化推理服务。不依赖第三方库，强调可移植性与确定性性能。