适用于 Azure Databricks 工作区虚拟网络的自定义 DNS 最佳做法

在自己的虚拟网络(VNet 注入)中部署Azure Databricks工作区时,可以将 VNet 配置为使用自定义 DNS 服务器,而不是Azure提供的 DNS。 当工作区需要解析本地主机名、在枢纽辐射拓扑中使用集中式DNS转发器,或应用DNS级别过滤时,自定义DNS很常见。

自定义DNS允许你控制名称解析,但也让你负责名称解析。 如果你的自定义DNS服务器无法解析经典计算所需的名称,集群就会无法启动,失去与外部数据源和库仓库的出站连接。 本文介绍了VNet注入工作区推荐的自定义DNS配置、最常见的错误配置以及如何排查。

Note

自定义DNS适用于VNet注入工作区中的 经典计算平面 。 无服务器计算运行在 Azure Databricks 网络中,不使用 VNet 的 DNS 配置。

Azure Databricks如何在 VNet 注入的工作区中使用 DNS

经典计算节点运行在你的VNet容器(私有)和主机(公共)子网中。 在集群启动和运行过程中,这些节点必须解析并访问多个 Azure Databricks 和 Azure 端点。 如果启用 了安全集群连接(SCC ),每个集群在创建集群时会在控制平面上开启一个向SCC中继的出站连接,因此必须成功解析名称才能生成集群。

经典计算依赖的端点包括:

终结点 如何到达
Azure Databricks 控制平面和 Web 应用程序 区域IP范围,由 AzureDatabricks 服务标签表示
安全集群连接(SCC)中继 完全限定域名(FQDN) tunnel.<region>.databricks.azure.cn
Legacy Hive 元商店 consolidated-<region>-prod-metastore.mysql.database.chinacloudapi.cn
工作区根(DBFS)存储 工作空间存储帐户的 dfs 和 blob 终结点
文物与日志 Blob 存储 dbartifactsprod<region>.blob.core.chinacloudapi.cn、dblogprod<region>.blob.core.chinacloudapi.cn
事件中心(日志记录) prod-<region>-observabilityeventhubs.servicebus.chinacloudapi.cn
外部数据源与图书馆库 公共DNS名称,如PyPI、Maven和CRAN 저장소

经典计算通过区域IP范围访问控制平面和Web应用,而非面向客户的主机名,因此Azure Databricks建议在路由表、网络安全组或防火墙中与AzureDatabricks服务标签一起将其列入允许名单。 有些防火墙,比如帕洛阿尔托,无法使用Azure服务标签。 对于这些,请改为将参考列表中的底层 IP 范围加入允许列表。

AzureDatabricks服务标签已经覆盖了SCC中继。 如果你允许列出特定的IP地址而不是服务标签,就用FQDN允许SCC中继,因为背后的IP地址会变。 有些区域会切换到次要区域,因此参考列表可以显示同一区域的多个 tunnel FQDN。 将它们全部加入允许列表。 元存储、存储和事件中心端点属于其他 Azure 服务,拥有各自的服务标签,如 Sql、 Storage和 EventHub。 有关按区域划分的完整地址和 FQDN 列表,请参阅 元存储、工件 Blob 存储、系统表存储、日志 Blob 存储和 Event Hubs 终结点 IP 地址。

你的自定义DNS服务器不必自己解析每个Azure和公共名称。 推荐的做法是解析你拥有的名称,然后把其他所有东西转发到 Azure。

将未解析的查询转发到Azure DNS

配置你的自定义DNS服务器,将无法解析的名称有条件转发到虚拟IP地址168.63.129.16的Azure提供的DNS解析器。 Azure DNS 会帮你解析 Azure Databricks 的控制平面、存储、元存储和其他 Azure 服务名称,并且随着这些地址的变化,它依然能正常工作。

Important

不要完全替换Azure提供的DNS,除非有条件转发。 如果你的自定义DNS服务器变成了Azure或Azure Databricks域名的权威,却没有转发他们无法回答的查询,所需端点的解析失败,集群也无法启动。

至少,有条件地将以下域名转发到 Azure DNS,并转发你的工作负载使用的任何存储和 Azure 服务域:

  • *.databricks.azure.cn

  • *.privatelink.databricks.azure.cn

  • *.databricksapps.com

如果你的工作空间使用Azure 专用链接作为经典计算平面连接,名称解析必须返回私有端点的IP地址,而非公网地址。 Azure 创建私有 DNS 区域privatelink.databricks.azure.cn,并为你的工作区端点添加地址记录,包括databricks_ui_api端点和browser_authentication用于单点登录的端点。 浏览器认证记录使用格式 pl-auth.<region>。

当工作空间使用自定义DNS时,其经典计算节点会向你的自定义DNS服务器发送DNS查询,而不是发送给Azure DNS。 与 VNet 关联的专用 DNS 区域仅会通过位于 168.63.129.16 的 Azure 提供的解析程序进行查询,因此,仅将该区域链接到 VNet 并不会将专用终结点地址返回给使用自定义解析程序进行查询的计算资源。 以下两项都是必修条件:

  • 将私有DNS区连接到privatelink.databricks.azure.cnAzure DNS解析查询的VNet:你的工作区VNet,或者以枢纽辐射拓扑形式托管解析器的集线器VNet。 这会让Azure DNS返回私有端点地址记录。

  • 配置您的自定义 DNS 服务器,使其将 *.privatelink.databricks.azure.cn 和 *.databricks.azure.cn 有条件地转发到位于 168.63.129.16 的 Azure DNS。 转发是将查询发送到关联私有DNS区域的过程。 在中心辐射型拓扑中,转发到可访问 Azure DNS 的中央解析器。

如果私有DNS区域没有关联,或者链接了但缺少端点的地址记录,Azure DNS会退回到公共递归,并返回该端点的公网IP地址。 名称解析看似成功,但流量流向公共端点而非私有端点。 确认连接区域保存了工作空间使用的所有私有端点的预期地址记录。

其他 Azure 私有端点,如存储,使用各自的 Azure 私有 DNS 区域,例如 privatelink.dfs.core.chinacloudapi.cn 和 privatelink.blob.core.chinacloudapi.cn。 应用同样的模式:连接这些区域,并有条件地将相应privatelink的域名转发给 Azure DNS,以便查询链接后的区域。 私有端点的DNS集成会根据你的设置有多种场景。 详情请参见 Azure 私有端点 DNS 集成。

关于完整的前端和后端专用链接配置,请参阅为 Azure Databricks 配置经典计算平面专用连接和为工作区配置入站专用链接。

常见的自定义 DNS 配置错误

大多数自定义DNS支持案例都源于以下配置错误之一:

  • 没有转发到 Azure DNS。 自定义DNS服务器无法解析Azure Databricks的控制平面、存储或元存储名称,也不会将查询转发到168.63.129.16。 集群启动失败,或者启动后无法到达存储和元存储。

  • 缺少专用 DNS 区域链接、转发或记录。 工作区使用专用链接,但VNet没有连接到该privatelink.databricks.azure.cn区域,没有转发到Azure DNS,或者关联区域缺少端点的正确地址记录。 名称会被解析为公共IP地址、错误地址或无信号,因此私有连接失败。

  • 自定义DNS服务器无法访问。 VNet 上配置的自定义 DNS 服务器地址有误,或者网络规则阻止计算子网访问这些服务器,例如,当工作区 VNet 未与承载自定义 DNS 服务器的 VNet 建立对等互连时。 所有名称解析都失败。

  • 无 Azure 转发的本地部署解析程序。 DNS 查询会引导到本地的解析器,该解析器解析内部名称,但无法解析或转发 Azure 名称。 为 Azure 和 Azure Databricks 域添加条件转发。

  • 被封锁的图书馆库。 DNS 解决了所需的 Azure Databricks 端点,但无法解析公共库仓库,因此从 PyPI、Maven 或 CRAN 安装库时会失败。

排查自定义 DNS 问题

如果集群无法启动或失去连接,检查集群的DNS解析情况。

  1. 在工作区创建一个集群。 如果集群无法启动,且事件日志显示诸如 Cluster terminated. Reason: Control Plane Request Failure 之类的错误,则表示集群无法连接到控制平面,这通常是由名称解析问题导致的。

  2. 从正在运行的集群中的笔记本内,解析一个所需端点,以确认自定义 DNS 返回的是预期的地址。 对于 专用链接 工作区,请确认工作区 URL 解析为私有端点的 IP 地址,而非公共地址。

    %sh
    nslookup adb-<workspace-id>.<n>.databricks.azure.cn
    nslookup tunnel.<region>.databricks.azure.cn
    

    如果集群完全无法启动,比如因为后端的 专用链接 问题,就从工作空间 VNet 公有子网的 Azure 虚拟机中进行这些检查,而不是从笔记本中进行。

  3. 如果解析失败或返回错误地址,请核实以下内容。 当集群因 DNS 问题未能启动时,集群事件日志会显示失败的网络健康检查,括号内显示:

    • VNet的自定义DNS服务器地址是正确的,计算子网可以访问这些服务器(X_NHC_DNS_SERVER_UNREACHABLE)。

    • 当控制平面或工件存储名称无法解析时,您的自定义 DNS 服务器会将 Azure 和 Azure Databricks 域名有条件转发到位于 168.63.129.16 的 Azure DNS(X_NHC_MULTIPLE_COMPONENTS_DNS_ERROR)。

    • 对于专用链接,privatelink.databricks.azure.cn 区域已链接到 Azure DNS 在其中进行解析的 VNet,你的自定义 DNS 服务器会将 Azure Databricks 域的查询转发给 Azure DNS,并且存在预期的地址记录(当控制平面专用终结点无法解析时,为 X_NHC_CONTROL_PLANE_HTTP_ERROR)。

  4. 如果集群启动但无法访问本地或其他 Azure 平台即服务(PaaS)资源,请确认这些目的地存在用户自定义路由,因为路由和 DNS 是分开配置的。

如果仍无法解决问题,请联系Azure和Azure Databricks帐户团队。

其他资源