使用应用监控查看 AI 资源

本文档介绍了如何查看 App Hub 注册的应用、服务和工作负载使用的 AI 资源的遥测数据。

为了生成错误率、延迟时间和 token 用量等指标,应用监控 会查询跟踪记录数据,以查找遵循 OpenTelemetry GenAI 语义惯例的应用专用标签 和事件。 这些指标可量化 AI 资源的运行状况、性能和费用,并且可以作为应用的汇总数据提供,也可以作为单个服务和工作负载的精细数据提供。

以下信息中心显示了已注册应用的 AI 资源信息:

显示 AI 资源信息的信息中心。

准备工作

本文档中的过程需要一个包含要分析的活跃 AI 资源的项目。 Google Cloud 它们还要求 AI 资源与已向 App Hub 注册的应用、服务和工作负载相关联。应用监控需要遥测数据和跟踪记录数据才能生成有意义的结果。

配置角色、API 和设置应用监控

  1. 完成 调查应用、服务和工作负载:准备工作中所述的步骤。
  2. 启用 Observability、Cloud Trace 和 Telemetry API。

    启用 API 所需的角色

    如需启用 API,您需要拥有 serviceusage.services.enable 权限。如果您 创建了项目,则可能已通过 所有者角色 (roles/owner) 拥有此权限。否则,您可以通过 Service Usage Admin 角色 (roles/serviceusage.serviceUsageAdmin) 获取此权限。 了解如何授予角色