llm

`llm` 是一个用于处理大型语言模型的 Rust 库生态系统。它基于高效快速的 GGML 机器学习库构建，提供了对多种大型语言模型的支持，并且强调了性能和易用性。项目支持量化模型、多平台兼容（包括 Apple Silicon、CPU 和 CUDA），以及通过简洁接口进行模型推理等功能。尽管该项目已不再维护，但在需要使用 Rust 语言来实现本地运行或集成 LLM 的场景下，它仍然可以作为一个参考起点。对于希望继续开发此项目或寻找活跃维护替代方案的开发者，文档中推荐了几种高质量的 Rust 库选项。