MLflow 追踪 - GenAI 可观测性

MLflow 追踪为你提供对 GenAI 应用程序的端到端可观测性，包括基于智能体的复杂系统。 它记录输入、输出、中间步骤和元数据，以便准确查看应用的行为方式。

跟踪功能可以让您：

• 调试和了解应用程序
• 监视性能和优化成本
• 监视生产应用程序
• 评估和改进高质量的应用程序性能
• 验证可审核性和合规性
• 将追踪功能与许多常用的第三方框架集成

存储跟踪的位置

您有两种存储追踪数据的方式。 Databricks 建议对于新的工作负载和生产工作负载，将追踪数据存储在 Unity Catalog 中。 无论选择哪种选项来存储跟踪，MLflow 试验都是用于查看跟踪的 UI 入口点：

• 存储在 Unity 目录中的跟踪 （建议）：将实验指向 Unity 目录跟踪位置，以便跟踪位于 OpenTelemetry （OTel） Delta 表中。 没有存储上限，追踪数据可像任何 Delta 表一样使用 SQL 进行查询，并且访问权限由 Unity Catalog 统一管理。
• 存储在试验中的跟踪：MLflow 将跟踪存储在试验本身中，但 MLflow 在每个试验中将存储上限为 100,000 个跟踪，此选项可能与最新的 MLflow 功能不兼容。

其他资源

• 10 分钟跟踪演示 - Azure Databricks中的跟踪入门。
• 检测应用 - 在自动跟踪和手动跟踪方法之间进行选择