atlas

Atlas 是一个纯 Rust 编写的高性能大语言模型（LLM）推理引擎，专注于低开销、跨硬件平台的通用推理加速。核心支持 CUDA、AMD GPU 与 Intel CPU 后端，集成 speculative decoding、SSM（如 Mamba）及 Transformer 架构优化，并兼容 OpenAI API 接口；采用零 Python 依赖设计，避免生态碎片化问题。适用于需要高稳定性、强可部署性与硬件异构支持的生产级 LLM 服务场景，如私有化部署、边缘推理与多厂商 GPU 集群调度。