KAI-Scheduler

KAI Scheduler 是一个面向大规模 AI 工作负载的开源 Kubernetes 原生调度器，专为高效管理 GPU 资源而设计。其核心功能包括拓扑感知调度（TAS）、分层 Gang 调度、GPU 资源预留与跨团队公平性保障，支持从交互式调试、模型训练到推理服务的全生命周期 AI 任务，并可与集群中其他调度器共存。适用于需要高吞吐、低干扰、细粒度 GPU 资源隔离与拓扑优化的 AI 平台场景，如企业级 AI 训练集群、MLOps 基础设施及异构 AI 推理服务平台。