Databricks Runtime 9.1 LTS

以下发行说明提供了由 Apache Spark 3.1.2 提供支持的 Databricks Runtime 9.1 LTS 和 Databricks Runtime 9.1 LTS Photon 的相关信息。 Databricks 于 2021 年 9 月发布了这些映像。 Photon 处于公共预览版。

新增功能和改进

• 自动加载程序架构提示现在支持数组和映射类型
• Avro 文件支持合并架构
• 自动加载程序增量列表支持（公共预览版）
• Delta 现在支持任意 replaceWhere
• Google Cloud 的自动加载程序现在支持文件通知（公共预览版）
• CREATE FUNCTION 现在支持创建表函数
• Kafka 流式处理源立即报告 estimatedTotalBytesBehindLatest 指标
• 对于数组内部的结构，Delta MERGE INTO 现在按名称解析结构字段并演化结构架构

自动加载程序架构提示现在支持数组和映射类型

使用架构提示重写架构推理（适用于自动加载程序）支持数组和映射类型。

适用于数组的架构提示示例包括：

1. arr Array<TYPE> 更改数组类型。
2. arr.element TYPE 更改数组类型（通过 element 关键字）。
3. arr.element.x TYPE 更改结构数组中的嵌套字段类型。

前两个提示示例将数组 arr 的类型更改为 TYPE，但它们使用不同的语法。 在第三个示例中，arr 是具有字段 x 的结构数组。 此示例说明如何将 x 的类型更改为 TYPE。

适用于映射的架构提示示例包括：

1. m Map<KEY-TYPE, VALUE-TYPE> 更改映射键和值类型。
2. m.key TYPE 更改映射键的类型。
3. m.value TYPE 更改映射值的类型。
4. m.key.x TYPE 更改映射键中的字段类型。
5. m.value.x TYPE 更改映射值的字段类型。

第一个示例将映射 m 的键和值类型分别更改为 KEY_TYPE 和 VALUE_TYPE。 如果只需要更改键类型或只需要更改值类型，则可以使用第二个和第三个示例。 在第四个和第五个示例中，m 是一个包含结构类型（具有字段 x）的键和值的映射。 此示例说明如何将 x 的类型更改为 TYPE。

Avro 文件支持合并架构

读取文件时，Avro 文件格式现在支持 mergeSchema 选项。 如果在读取 Avro 文件时将 mergeSchema 设置为 true，将从一组 Avro 文件而不是从单个文件推断架构。 此操作通过推断可能能够读取所有文件（即使它们各自的架构不同）的架构，来提高可用性。 请参阅配置。

自动加载程序增量列表支持（公共预览版）

对于按字典顺序生成的文件，什么是自动加载程序？现在利用字典顺序的文件排序和经过优化的现有 API，通过从以前引入的文件中列出而不是列出整个目录来提高目录列表的效率。 默认情况下，自动加载程序会自动检测给定目录是否适用于增量列表。 若要显式控制此行为，请将新的 cloudFiles.useIncrementalListing 选项设置为开 (true)、关 (false) 或自动 (auto)。 如果将此行为设置为 true，还可以将 cloudFiles.backfillInterval 选项设置为对数据计划定期回填，以确保完全引入所有数据。

Delta 现在支持任意 replaceWhere

结合覆盖模式，replaceWhere 选项可用于同时覆盖与选项中定义的谓词匹配的数据。 以前，replaceWhere 仅支持对分区列使用谓词，但它现在可以是任意表达式。 请参阅写入表。

Google Cloud 的自动加载程序现在支持文件通知（公共预览版）

自动加载程序现在支持 Google Cloud 上的文件通知模式。 设置 .option("cloudFiles.useNotifications", "true") 以允许自动加载程序自动为你设置 Google Cloud Pub/Sub 资源。 在文件通知模式下，系统在新文件到达时检测并引入这些文件，而不列出输入目录。 请参阅什么是自动加载程序文件通知模式？。

CREATE FUNCTION 现在支持创建表函数

除了创建返回标量值的标量函数之外，现在还可以创建返回一组行的表函数。 请参阅 CREATE FUNCTION (SQL 和 Python)。

Kafka 流式处理源立即报告 estimatedTotalBytesBehindLatest 指标

Kafka 流式处理源立即报告在每个批处理后，使用者在最新可用字节后面使用的估计字节数。 可以使用该指标跟踪流进度。 请参阅检索 Kafka 指标。

示例指标输出：

StreamingQueryProgress {
  "batchId": 0,
  .....
  "sources": [ {
    "description" : "KafkaV2[Subscribe[topic-0]]",
    "metrics":{
      "avgOffsetsBehindLatest" : "1.0",
      "estimatedTotalBytesBehindLatest" : "80.0", // new
      "maxOffsetsBehindLatest" : "1",
      "minOffsetsBehindLatest" : "1"
    } ],
  ....
 }

对于数组内部的结构，Delta MERGE INTO 现在按名称解析结构字段并演化结构架构

Delta MERGE INTO 现在支持按名称解析结构字段，并支持结构数组的自动架构演变。 通过将 spark.databricks.delta.schema.autoMerge.enabled 设置为 true 来启用自动架构演变时，UPDATE 和 INSERT 子句将按名称解析数组内的结构字段，强制转换为目标数组中定义的相应数据类型，并使用 null 值填充源或目标中的附加或缺失字段。 禁用自动架构演变时，UPDATE 和 INSERT 子句将按名称解析数组内的结构字段，但无法演化附加字段。 请参阅更新 Delta Lake 表架构。

Bug 修复

• 修复了 Amazon S3 连接器中可能发生在长时间运行的作业或服务中的内存泄漏，这是由 JVM DeleteOnExit 功能引起的。

库升级

• 升级了 Python 库：
  • plotly 已从 4.14.3 升级到 5.1.0
• 升级了 R 库：
  • base 已从 4.1.0 升级到 4.1.1
  • bslib 已从 0.2.5.1 升级到 0.3.0
  • cachem 已从 1.0.5 升级到 1.0.6
  • compiler 已从 4.1.0 升级到 4.1.1
  • datasets 已从 4.1.0 升级到 4.1.1
  • future 已从 1.21.0 升级到 1.22.1
  • gert 已从 1.3.1 升级到 1.3.2
  • graphics 已从 4.1.0 升级到 4.1.1
  • grDevices 已从 4.1.0 升级到 4.1.1
  • grid 已从 4.1.0 升级到 4.1.1
• 升级了 Java 库：
  • org.eclipse.jetty 已从 9.4.36.v20210114 升级到 9.4.42.v20210604

Apache Spark

Databricks Runtime 9.1 LTS 包括 Apache Spark 3.1.2。 此版本包括 Databricks Runtime 9.0（不受支持）中所包含的所有 Spark 修复和改进，以及对 Spark 进行的以下其他 bug 修复和改进：

• [SPARK-36674][SQL][CHERRY-PICK] 支持 ILIKE - 不区分大小写的 LIKE
• [SPARK-36353][SQL][3.1] RemoveNoopOperators 应保留输出架构
• [SPARK-35876][SQL][3.1] ArraysZip 应保留字段名称，以避免由分析器/优化器重新写入
• [SPARK-36398][SQL] 编修 Spark Thrift 服务器日志中的敏感信息
• [SPARK-36498][SQL] 在 byName V2 写入中对输入查询的内部字段重新排序
• [SPARK-36614][CORE][UI] 纠正 UI 中的解除授权导致的执行程序丢失原因
• [SPARK-36012][SQL] 在 SHOW CREATE TABLE 中添加 null 标志
• [SPARK-36509][CORE] 修复在独立群集中，如果辅助角色停止，永远不会重新计划执行程序的问题
• [SPARK-36603][CORE] 在 LevelDB 中使用 WeakReference 而不是 SoftReference
• [SPARK-36564][CORE] 修复 LiveRDDDistribution.toApi 中的 NullPointerException
• [SPARK-36086][SQL][3.1] CollapseProject 项目替换别名应使用源列名称
• [SPARK-33527][SQL] 扩展解码功能，以与主流数据库保持一致
• [SPARK-36400][SPARK-36398][SQL][WEBUI] 让 ThriftServer 识别 spark.sql.redaction.string.regex
• [SPARK-34054][CORE] BlockManagerDecommissioner 代码清理
• [SPARK-36500][CORE] 修复任务中断时 temp_shuffle 文件泄漏的问题
• [SPARK-36489][SQL] 在没有分组键的情况下，只有一个存储桶的表上的聚合函数返回多行
• [SPARK-36464][CORE] 修复 ChunkedByteBufferOutputStream 中的基础大小变量初始化问题，以写入超过 2GB 数据
• [SPARK-36339][SQL][3.0] 应替换对不属于聚合的分组的引用
• [SPARK-36354][CORE] EventLogFileReader 应跳过滚动读取没有日志的事件日志目录
• [SPARK-36242][CORE][3.1] 确保在 ExternalSorter.spillMemoryIteratorToDisk 方法中设置 success = true 之前关闭溢出文件
• [SPARK-36211][PYTHON] 正确键入 udf 返回值
• [SPARK-34222][SQL] 增强布尔简化规则
• [SPARK-35027][CORE] 编写…时关闭 FileAppender 中的 inputStream
• [SPARK-36269][SQL] 修复仅将数据列设置为 Hive 列名配置
• [SPARK-36213][SQL] 使用 PartitionSpec 规范化 Describe Table 命令的 PartitionSpec
• [SPARK-36210][SQL] 在 Dataset.withColumns 中保留列插入顺序
• [SPARK-36079][SQL] 基于 Null 的筛选器估计值应始终在 [0, 1] 范围内
• [SPARK-28266][SQL] 读取 Hive 表时，convertToLogicalRelation 不应解释 path 属性

维护更新

请参阅 Databricks Runtime 9.1 LTS 维护更新。

系统环境

• 操作系统：Ubuntu 20.04.4 LTS
• Java：Zulu 8.56.0.21-CA-linux64
• Scala：2.12.10
• Python：3.8.10
• R：4.1.1
• Delta Lake：1.0.0

已安装的 Python 库

已安装的 R 库

R 库安装自 2021-09-08 的 Microsoft CRAN 快照。

已安装的 Java 库和 Scala 库（Scala 2.12 群集版本）