openllmetry

OpenLLMetry 是一个开源的 LLM 应用可观测性工具，基于 OpenTelemetry 标准构建，专为生成式 AI 系统设计。它提供对 LLM 调用链路、提示词、响应、token 使用、延迟及错误的自动追踪与指标采集，并支持主流 LLM 框架（如 OpenAI、Anthropic、LangChain）的零配置插桩。项目采用语义化约定（已纳入官方 OpenTelemetry LLM 规范），兼容现有 OpenTelemetry 后端（如 Jaeger、Prometheus、OTLP）。适用于需要监控、调试和优化大模型应用性能、成本与质量的生产环境，尤其适合 LLMOps 流程中的模型服务与推理平台。