parakeet.cpp

parakeet.cpp 是一个基于 C++17 和 ggml 的语音识别项目，实现了 NVIDIA NeMo Parakeet 模型的推理。其核心功能包括对多种离线 Parakeet 模型（如 CTC、RNNT、TDT 及其混合模型）的支持，并且在 CPU 和 GPU 上都能提供快速、轻量级的自动语音识别，无需 Python 运行时。该项目特别适用于需要低依赖性和高性能的本地部署场景，例如边缘计算设备或没有 GPU 的服务器。它还支持带有结束检测的缓存感知流式传输，确保了实时应用中的高效准确。与 NeMo 的 PyTorch 实现相比，parakeet.cpp 在速度上具有明显优势，同时保持了相同的识别精度。