uGDS

uGDS 是一个用户态 GPU Direct Storage 库，实现 CPU 在用户空间直接构造 NVMe 命令，使 SSD 通过 PCIe 点对点 DMA 直接读写 GPU 显存，绕过内核 NVMe 驱动和文件系统。核心特性包括：纯用户态 I/O 栈、兼容 cuFile/GDS API、同时支持 NVIDIA CUDA 和 AMD HIP/ROCm 后端、BSD 开源许可。相比 NVIDIA GDS，在小 IO 场景下显著提升带宽（最高 28× 写入）并大幅降低延迟（低至 5.2μs）。适用于高性能 AI 训练数据加载、实时推理流水线、GPU 加速数据库等对存储延迟与吞吐敏感的场景。