azure-bench

AzureBench 是一个用于持续监测 Azure 平台托管 OpenAI 模型性能表现的开源基准测试工具。它通过实时请求和延迟测量，量化 Azure 上 OpenAI 兼容接口（如 Azure OpenAI Service）的响应速度波动与稳定性问题，特别聚焦于高延迟异常（约20%请求严重超时）。项目采用 TypeScript 实现，提供可视化仪表盘（azure.t3.gg）展示历史延迟分布、P95/P99 延迟及失败率等核心指标。适用于 AI 工程师、MLOps 团队及云服务选型评估者，在对比云厂商大模型托管服务质量、排查推理延迟瓶颈或验证 SLA 合规性等场景中使用。