bebelm

BebeLM 是一个纯 Rust 编写的、仅依赖 CPU 的大语言模型（LLM）推理实现，专为 LiquidAI 的 LFM2.5-8B-A1B 模型（Q4_K_M 量化版本）设计。核心特点包括零 GPU 依赖、极简构建链（无系统级依赖）、内置 KV 缓存支持多轮对话，以及约 6–8GB 内存占用，可在主流 x86 CPU 及 Raspberry Pi 等边缘设备上实现交互式推理。项目提供 CLI 工具与可嵌入的 Rust 库，适用于离线、隐私敏感或资源受限环境下的本地大模型应用，如终端助手、嵌入式智能代理或 Rust 生态内的 AI 集成。