openllmetry

OpenLLMetry 是一个基于 OpenTelemetry 的开源可观测性工具，专为生成式人工智能（GenAI）或大型语言模型（LLM）应用设计。它利用 Python 语言开发，能够提供全面的监控和度量功能，包括请求跟踪、性能指标收集以及异常检测等，从而帮助开发者更好地理解和优化其 AI 应用的行为与性能。特别适用于需要对复杂的机器学习模型进行实时监控与故障排查的场景中，如在线服务、数据处理流水线等。此外，项目还支持社区贡献，并且遵循 Apache License 2.0 开源协议。