Whisper

Const-me/Whisper 是一个高性能的OpenAI Whisper自动语音识别模型的GPGPU推理实现。该项目基于C++开发，使用DirectCompute技术进行跨厂商的GPU加速计算，不依赖任何运行时库，仅需基本操作系统组件支持。相比原版PyTorch和CUDA实现，它在相同硬件条件下展现出显著的速度优势。此外，项目具有低内存占用、混合精度计算以及内置性能分析器等特点，并通过Media Foundation支持多种音频视频格式处理及实时音频捕捉。适用于需要快速准确地将语音转换为文本的应用场景，如会议记录、字幕生成等。