ggml

ggml 是一个用于机器学习的张量库，主要使用 C++ 开发。该项目提供低级别的跨平台实现、整数量化支持以及广泛的硬件兼容性，同时具备自动微分功能，并内置了 ADAM 和 L-BFGS 优化器。它不依赖任何第三方库，在运行时无需内存分配，这使得其非常适合在资源受限或对性能有高要求的应用场景中使用，例如在嵌入式设备上进行大规模语言模型的推理。