BBuf

KDA-Pilot

BBuf

暂无描述

AI 简介

KDA-Pilot 是一个面向真实AI推理框架(SGLang)GPU内核的自动化优化平台,聚焦于端到端、可复现的CUDA/Triton/CuTe-DSL内核调优。其核心特点是:基于生产级模型的实际算子形状构建多形态工作负载,采用包含Python调度、kernel launch及cuda.synchronize()在内的端到端wall-time评测,集成Nsight Compute性能证据与KernelWiki知识引导,并通过正确性校验、代码审查和ABIs一致的基线对比保障优化可信度。适用于大模型/扩散模型推理服务中关键算子(如RoPE、归一化、旋转嵌入)的基础设施级性能优化场景。

Python
215
Stars
32
Forks
1
Watchers
2
Issues

Star 增长

今日0
近 7 天0
近 30 天+15
综合评分40.06
默认分支main