utilyze

Utilyze 是一款面向 GPU 计算效率分析的实时性能诊断工具，专注于衡量 GPU 实际有效计算负载（而非传统意义上的设备忙闲状态）。它通过直接读取 NVIDIA GPU 性能计数器（如 SM 利用率、内存带宽、Tensor Core 活跃度等），量化模型推理工作负载的真实硬件利用率，并估算当前模型与硬件组合下的可达成吞吐上限（Attainable SOL）。支持本地 Linux（Ampere+ GPU）高权限采集与跨平台（macOS/Windows）轻量客户端远程连接，开销极低。适用于大模型推理服务调优、GPU 资源容量规划及性能瓶颈归因等场景。