DLT 发行说明和发布升级过程

本文介绍 DLT 发布过程、DLT 运行时的管理方式,并提供每个 DLT 版本的发行说明的链接。

DLT 运行时通道

注释

若要查看用于 DLT 版本的 Databricks Runtime 版本,请参阅该版本的 发行说明

DLT 群集根据 Databricks Runtime 发行说明版本和兼容性使用运行时。 Databricks 会自动升级 DLT 运行时,以支持增强功能和升级到平台。 可以使用 channel DLT 管道设置中的字段来控制运行管道的 DLT 运行时版本。 支持的值包括:

  • current,使用当前运行时版本。
  • preview:使用即将对运行时版本进行的更改来测试管道。

默认情况下,管道使用 current 运行时版本运行。 Databricks 建议将 current 运行时用于生产工作负载。 若要了解如何使用 preview 设置以通过下一个运行时版本测试你的管道,请参阅使用下一个运行时版本自动测试你的管道

重要

标记为正式版或公共预览版的功能可在 current 渠道中使用。

有关 DLT 通道的详细信息,请参阅 channel DLT 管道设置中的字段。

若要了解 DLT 如何管理每个版本的升级过程,请参阅 DLT 升级的工作原理?

如何查找管道更新的 Databricks Runtime 版本?

可以查询 DLT 事件日志来查找用于管道更新的 Databricks Runtime 版本。 请参阅 运行时信息

DLT 发行说明

DLT 发行说明按年份和周次进行组织。 由于 DLT 是 无版本的,因此工作区和运行时更改都会自动发生。 以下发行说明概述了每个版本中的更改和 bug 修复:

DLT 升级的工作原理是什么?

DLT 被视为 无版本 产品,这意味着 Databricks 会自动升级 DLT 运行时以支持增强功能和升级到平台。 Databricks 建议限制 DLT 管道的外部依赖项。

Databricks 积极防止自动升级导致生产 DLT 流水线出现错误或问题。 请参阅 DLT 升级过程

尤其是对于部署包含外部依赖的 DLT 管道的用户,Databricks 建议使用 preview 通道主动测试管道。 请参阅使用下一个运行时版本自动测试管道

DLT 升级过程

Databricks 管理 DLT 计算资源使用的 Databricks Runtime 。 DLT 会自动升级 Azure Databricks 工作区中的运行时,并在升级后监视管道的运行状况。

如果 DLT 检测到管道由于升级而无法启动,则管道的运行时版本将还原到已知为稳定的以前版本,并且会自动触发以下步骤:

  • 管道的 DLT 运行时绑定到以前的已知良好版本。
  • Databricks 技术支持团队收到问题通知。
    • 如果问题与运行时中的回归有关,Databricks 会解决此问题。
    • 如果问题是由管道使用的自定义库或包引起的,Databricks 会联系你解决问题。
  • 解决问题后,Databricks 会再次启动升级。

重要

DLT 仅还原在生产模式下运行且通道设置为 current 的管道。

使用下一个运行时版本自动测试管道

若要确保下一个 DLT 运行时版本中的更改不会影响管道,请使用 DLT 通道功能:

  1. 创建暂存管道并将通道设置为 preview

  2. 在 DLT UI 中,创建计划以每周运行管道,并启用警报来接收管道故障的电子邮件通知。 Databricks 建议每周安排一次管道测试运行,尤其是在你使用自定义管道依赖项的情况下。

  3. 如果收到故障通知并且无法解决故障,请使用 Databricks 开具支持票证。

管道依赖项

DLT 支持管道中的外部依赖项;例如,可以使用命令安装任何 Python 包 %pip install 。 DLT 还支持使用全局和群集范围的 init 脚本。 但是,这些外部依赖项(尤其是 init 脚本)会增加运行时升级问题的风险。 若要缓解这些风险,请尽量减少在管道中使用 init 脚本。 如果处理需要 init 脚本,请自动测试管道以提前检测问题;请参阅使用下一个运行时版本自动测试管道。 如果使用 init 脚本,Databricks 建议增加测试频率。