다음을 통해 공유

跟踪部署

MLflow 跟踪通过捕获可在 MLflow UI 中查看或分析为表的执行详细信息,为生产 GenAI 应用提供全面的可观测性。 本页提供了一项功能参考,其中详细介绍了具有 MLflow 跟踪的代理或应用的部署选项,包括跟踪日志记录选项和治理详细信息。 有关指南和教程,请参阅 使用跟踪部署代理

跟踪日志记录选项

可以将跟踪记录到 Databricks MLflow 跟踪服务或 Delta 表。 下图显示了使用所有日志记录选项的示例体系结构,以说明数据流。

MLflow 生产跟踪概述

跟踪日志记录选项 访问和管理 优点 局限性
MLflow 试验 可以在 MLflow 试验 UI 中查看跟踪,也可以 以编程方式查询跟踪。 访问受 MLflow 试验 ACL 的约束。 实时日志记录。 支持非常大的跟踪。 每个试验 100K 个跟踪。 每秒最多 60 个查询(QPS)。 请求 Databricks 帐户团队帮助提高这些限制。
生产监视 Delta 表使用 Unity 目录特权进行管理。 支持非常大的跟踪。 与 MLflow 试验日志记录相同。 大约 15 分钟的延迟。

在上表中,如果使用项目的自定义存储位置创建 MLflow 试验,则试验的跟踪数据将存储在指定的位置。 具体而言,如果 创建工作区试验,可以通过指定 artifact_location Unity 目录卷来为项目和跟踪数据设置非默认存储位置。 在这种情况下,跟踪数据访问受位置权限(例如 Unity 目录卷特权)的约束。

用于跟踪的部署选项

Databricks 支持在 Databricks 内外部署,MLflow 3 和 MLflow 2。 部署方法的选择会影响可用的日志记录选项:

部署位置
d - 部署方法
MLflow 试验日志记录 生产监视 推理表?
Databricks 代理框架(建议)自定义服务部署 已支持 已支持 已支持
Databricks 外部 自定义部署 已支持 已支持 不支持

指南和教程

特性参考

有关本指南中的概念和功能的详细信息,请参阅: