Compartir a través de

Databricks Runtime 5.1 （EoS）

注意

对此 Databricks Runtime 版本的支持已结束。 有关终止支持日期，请参阅终止支持历史记录。 有关所有受支持的 Databricks Runtime 版本，请参阅 Databricks Runtime 发行说明版本和兼容性。

Databricks 于 2018 年 12 月发布此版本。

重要

此版本已于 2023 年 5 月 2 日弃用。 有关 Databricks Runtime 弃用策略和计划的详细信息，请参阅 Databricks 支持生命周期。

以下发行说明提供了由 Apache Spark 支持的 Databricks Runtime 5.1 的相关信息。

新增功能

  • Delta Lake

    • 支持 MERGE INTO 中的扩展语法。

      • 支持多个 MATCHED 子句，MATCHED 和 NOT MATCHED 子句中的附加条件，以及 DELETE 操作。 这对于将数据库中更改的数据（插入数据、更新数据和删除数据）写入到 Delta 表非常有用。
      • 支持在UPDATE和INSERT操作中自动填充列名，类似于SELECT中的情况。 这样就可以更轻松地为具有极大量列的表编写 MERGE 查询。

      有关示例，请参阅 MERGE INTO。

    • 支持 Delta 表的可调隔离级别。

      • 可以将 Delta 表配置为具有以下两个隔离级别之一：Serializable 和 WriteSerializable（默认值）。
      • 默认隔离级别从 Serializable 放宽到 WriteSerializable，以提高可用性。 具体而言，将允许 UPDATE、DELETE 和 MERGE 与追加并发运行（例如，从流式处理查询运行时就是如此）。 请参阅 Azure Databricks 上的隔离级别和写入冲突来了解此放宽的含义，以及在需要时强制执行以前的行为的步骤。

    • CONVERT TO DELTA 命令的个人预览版，可以用来将 Parquet 表就地转换为 Delta 表，无需复制任何文件。 如果你有兴趣试用，请联系 Azure Databricks 支持人员。

  • 适用于 Python 的作用域为笔记本的库。 你现在可以使用 Databricks 实用工具库 API 将 Python 库（包括 Eggs、Wheels 和 PyPI）安装到 Python 笔记本。 通过此 API 安装的库仅在安装了这些库的笔记本中可用。 请参阅库实用工具 (dbutils.library)（旧版）。

    重要

    此功能目前以公共预览版提供。

    默认情况下，在运行 Databricks Runtime 5.1 的群集上启用了库实用工具。 因此，默认情况下会通过使用单独的 Python 可执行文件隔离每个笔记本的 Python REPL 进程，该可执行文件是在笔记本附加到群集并继承群集上的默认 Python 环境时创建的。 通过初始化脚本安装到 Azure Databricks Python 环境中的库仍可用。 可以通过将 spark.databricks.libraryIsolation.enabled 设置为 false 禁用此功能。

  • display 函数现在支持 pandas 数据帧。 请参阅创建新的可视化效果。

改进

  • Delta Lake

    • 使用大量小文件提高了 OPTIMIZE 的可伸缩性。
    • 你现在可以在 SET 中 UPDATE 嵌套列。

  • SQL 性能

    • 通过仅提取前 LIMIT 个分区优化 n。
    • 优化范围联接。 我们添加了优化器规则来重写范围联接，使其以更有效的方式执行。 这可以使此类型的查询的速度加快一个数量级。 若要启用优化，请向查询中添加提示。 当前的重写支持以下范围联接查询形式：
      • 间隔中的点：a.begin < b.point AND b.point < a.end
      • 间隔重叠：a.begin < b.end AND b.begin < a.end

  • 升级了 ADLS 的连接器，其中包括关键的错误修复。 建议将 Azure Data Lake Storage 的所有用户升级到 Databricks Runtime 5.1。

  • 已将 Java 从 1.8.0_162 升级到 1.8.0_181。

  • 已将 Spark 的 Snowflake 连接器升级到 2.4.10。

  • 升级了一些已安装的 Python 库：

    • pip：从 18.0 升级到了 18.1
    • setuptools：从 40.4.1 升级到了 40.6.2
    • virtualenv：从 15.0.1 升级到了 16.1.0
    • wheel：从 0.31.1 升级到了 0.32.3

  • 升级了多个已安装的 R 库。 请参阅已安装的 R 库。

Bug 修复

  • 修复了 Azure Data Lake Storage 支持中未能列出超过 5000 个文件的目录的 bug。
  • TRANSFORM 应会正确处理不同的输入数据类型。
  • 在执行程序死后，清理过期的外部无序文件，以防止长时间运行的群集耗尽磁盘。

Apache Spark

Databricks Runtime 5.1 包括 Apache Spark 2.4.0。 此版本包括 Databricks Runtime 5.0 (EoS) 中包含的所有修复和改进，以及对 Spark 进行的以下其他缺陷修复和改进：

  • [SPARK-26147][SQL] 仅从联接条件移除不可评估的 python udf
  • [SPARK-26129][SQL] 检测每个查询的计划时间
  • [SPARK-25921][PYSPARK] 修复 python 辅助角色重用时无 BarrierTaskContext 的屏障任务运行
  • [SPARK-23207][SQL] 使用 SQLConf.get.enableRadixSort 而非 SparkEnv.get.conf.get(SQLConf.RADIX_SORT_ENABLED)
  • [SPARK-26057][SQL] 转换在删除重复引用的同时分析了计划
  • [SPARK-25974][SQL] 优化生成的字节码，以便根据给定顺序排序
  • [SPARK-25901][CORE] 在 BarrierTaskContext 中仅使用一个线程…
  • [SPARK-25381][SQL] 按列参数进行分层抽样
  • [SPARK-25514][SQL] 通过 to_json 生成结构良好的 JSON
  • [SPARK-22827][SQL] 在 HashAggregateExec 中也引发 SparkOutOfMemoryError。
  • [SPARK-25979][SQL] 窗口函数：允许在窗口引用前后加上括号
  • [SPARK-25988][SQL] 在分析器中删除重复列名时，使名称保持不变
  • [SPARK-25904][CORE] 分配小于 Int.MaxValue 的数组
  • [SPARK-24901][SQL] 当 VectorizedHashMap 为 false 时，合并 RegularHashMap 和 fastHashMap 的 codegen，以降低编译器的 maxCodesize。
  • [SPARK-25850][SQL] 使代码生成函数的拆分阈值可配置
  • [SPARK-25866][ML] 更新 KMeans formatVersion
  • [SPARK-22148][SPARK-15815][SCHEDULER] 获取新的执行程序，避免因加入阻止列表而挂起
  • [SPARK-25827][CORE] 避免将传入的加密块转换为字节缓冲区
  • [SPARK-25918][SQL] LOAD DATA LOCAL INPATH 应处理相对路径
  • [SPARK-25837][CORE] 修复清理阶段 AppStatusListener 中潜在的速度降低问题
  • [SPARK-25773][CORE] 作业完成时，在结果阶段取消僵尸任务 (5.x)
  • [SPARK-25767][SQL] 在代码生成过程中修复延迟计算的表达式流
  • [SPARK-25819][SQL] 支持函数 from_avro 的分析模式选项
  • [SPARK-25044] 更改 ScalaUDF 构造函数签名
  • [SPARK-25699][SQL] 部分下推 ORC 中断言的连接词
  • [SPARK-25559][SQL] 当 … 时删除 Parquet 中不受支持的谓词
  • [SPARK-25540][SPARK-25525][SQL][PYSPARK] 不要为 SparkSession.getOrCreate 中的现有 SparkContext 更新 conf。
  • [SPARK-25595] 如果启用了标志 IGNORE_CORRUPT_FILES，则忽略损坏的 Avro 文件
  • [SPARK-25458][SQL] 支持 ANALYZE TABLE 中的 FOR ALL COLUMNS
  • [SPARK-25449][CORE] 检测信号不应包含零指标的累加器
  • [SPARK-25399][SS] 连续处理状态不应影响微批执行作业
  • [SPARK-26092][SS] 使用 CheckpointFileManager 写入流式处理元数据文件

维护更新

请参阅 Databricks Runtime 5.1 维护更新。

系统环境

  • 操作系统：Ubuntu 16.04.5 LTS
  • Java：1.8.0_181
  • Scala：2.11.8
  • Python：2.7.12 适用于 Python 2 群集，3.5.2 适用于 Python 3 群集。
  • R：R 版本 3.4.4 (2018-03-15)
  • GPU 群集：安装了以下 NVIDIA GPU 库：
    • Tesla 驱动程序 375.66
    • CUDA 9.0
    • cuDNN 7.0

注意

尽管 Apache Spark 2.4 支持 Scala 2.12，但 Databricks Runtime 5.1 不支持。

已安装的 Python 库

库 版本 库 版本 库 版本
ansi2html 1.1.1 argparse 1.2.1 backports-abc 0.5
boto 2.42.0 boto3 1.4.1 botocore 1.4.70
brewer2mpl 1.4.1 certifi 2016.2.28 cffi 1.7.0
chardet 2.3.0 colorama 0.3.7 configobj 5.0.6
密码系统 1.5 骑行者 0.10.0 Cython 0.24.1
装饰师 4.0.10 docutils 0.14 enum34 1.1.6
ET-XML文件 1.0.1 freetype-py 1.0.2 funcsigs 1.0.2
fusepy 2.0.4 Future 3.2.0 ggplot 0.6.8
html5lib 0.999 idna 2.1 IP地址 1.0.16
ipython 2.2.0 ipython-genutils（IPython通用工具） 0.1.0 jdcal 1.2
Jinja2 2.8 jmespath 0.9.0 llvmlite 0.13.0
lxml 3.6.4 MarkupSafe 0.23 matplotlib 1.5.3
mpld3 0.2 msgpack-python 0.4.7 ndg-httpsclient 0.3.3
numba 0.28.1 numpy 1.11.1 openpyxl 2.3.2
熊猫 0.19.2 pathlib2 2.1.0 替罪羊 0.4.1
pexpect 4.0.1 pickleshare 0.7.4 枕头 3.3.1
果仁 18.1 层数 3.9 prompt-toolkit 1.0.7
psycopg2 2.6.2 ptyprocess 0.5.1 py4j 0.10.3
pyarrow 0.8.0 pyasn1 0.1.9 Python代码解析器 2.14
Pygments 2.1.3 PyGObject 3.20.0 pyOpenSSL 16.0.0
pyparsing 2.2.0 pypng 0.0.18 Python语言 2.7.12
python-dateutil 2.5.3 python-geohash (Python的地理哈希库) 0.8.5 Python时区库pytz 2016年6月1日
请求 2.11.1 s3transfer 0.1.9 scikit-learn 0.18.1
scipy 0.18.1 搜寻 0.32 seaborn 0.7.1
setuptools 40.6.2 simplejson 3.8.2 simples3 1.0
singledispatch（单一派发） 3.4.0.3 6 1.10.0 statsmodels 0.6.1
龙卷风 5.1.1 Traitlets 4.3.0 urllib3 1.19.1
virtualenv 16.1.0 wcwidth 0.1.7 轮子 0.32.3
wsgiref 0.1.2

已安装的 R 库

库 版本 库 版本 库 版本
abind 1.4-5 断言 0.2.0 向后移植 1.1.2
基础 3.4.4 base64enc 0.1-3 黑 1.66.0-1
bindr 0.1.1 bindrcpp 0.2.2 比特 1.1-14
bit64 0.9-7 bitops 1.0-6 团状物 1.1.1
靴子 1.3-20 酿造 1.0-6 扫帚 0.5.0
callr 3.0.0 汽车 3.0-2 汽车数据 3.0-2
文本光标 6.0-80 cellranger 1.1.0 chron 2.3-53
类 7.3-14 cli 1.0.1 剪辑器 0.4.1
clisymbols 1.2.0 集群 2.0.7-1 codetools 0.2-15
色彩空间 1.3-2 commonmark 1.6 编译器 3.4.4
蜡笔 1.3.4 卷曲 3.2 CVST（脑静脉窦血栓形成） 0.2-2
data.table 1.11.8 数据集 3.4.4 DBI 1.0.0
ddalpha 1.3.4 DEoptimR 1.0-8 desc 1.2.0
devtools 2.0.1 摘要 0.6.18 dimRed 0.1.0
doMC 1.3.5 dplyr 0.7.7 DRR 0.0.3
fansi 0.4.0 猫用 0.3.0 foreach 1.4.4
外国 0.8-70 fs 1.2.6 gbm 2.1.4
几何 0.3-6 ggplot2 3.1.0 gh 1.0.1
git2r 0.23.0 glmnet 2.0-16 胶水 1.3.0
gower 0.1.2 图形 3.4.4 grDevices 3.4.4
“业务流程参数” 网格 3.4.4 gridExtra 2.3 gsubfn 0.7
gtable 0.2.0 H₂O 3.20.0.8 避风港 1.1.2
赫姆斯 0.4.2 httr 1.3.1 hwriter 1.3.2
hwriterPlus 1.0-3 ini 0.3.1 ipred 0.9-8
迭代器 1.0.10 jsonlite 1.5 kernlab 0.9-27
KernSmooth 2.23-15 标记 0.3 格子 0.20-38
熔岩 1.6.3 lazyeval 0.2.1 更小 0.3.5
lme4 1.1-18-1 lubridate 1.7.4 魔法 1.5-9
magrittr 1.5 mapproj 1.2.6 地图 3.3.0
maptools 0.9-4 质量 7.3-50 矩阵 1.2-14
MatrixModels 0.4-1 记忆化 1.1.0 方法 3.4.4
mgcv 1.8-25 默剧 0.6 明卡 1.2.4
ModelMetrics 1.2.2 蒙塞尔 0.5.0 mvtnorm 1.0-8
nlme 3.1-137 nloptr 1.2.1 nnet 7.3-12
numDeriv 2016.8-1 openssl（开放SSL） 1.0.2 openxlsx 4.1.0
平行 3.4.4 pbkrtest 0.4-7 柱子 1.3.0
pkgbuild (软件包构建工具) 1.0.2 pkgconfig 2.0.2 pkgKitten 0.1.4
pkgload 1.0.2 普洛格 0.2.0 请 2.7-0
普莱尔 1.8.4 赞美 1.0.0 prettyunits 1.0.2
pROC 1.13.0 processx 3.2.0 prodlim 2018.04.18
原型 (proto) 1.0.0 附注 (ps) 1.2.0 purrr 0.2.5
quantreg 5.36 R.methodsS3 1.7.1 R.oo 1.22.0
R.utils 2.7.0 R6 2.3.0 随机森林 (randomForest) 4.6-14
rcmdcheck 1.3.1 RColorBrewer 1.1-2 Rcpp 0.12.19
RcppEigen 0.3.3.4.0 RcppRoll 0.3.0 RCurl 1.95-4.11
readr 1.1.1 readxl 1.1.0 食谱 0.1.3
重赛 1.0.1 遥控器 2.0.2 reshape2 1.4.3
里约 0.5.10 rlang 0.3.0.1 robustbase 0.93-3
RODBC 1.3-15 roxygen2 6.1.0 rpart 4.1-13
rprojroot 1.3-2 Rserve 1.7-3 RSQLite 2.1.1
rstudioapi 0.8 磅秤 1.0.0 会话信息 1.1.1
sfsmisc 1.1-2 sp 1.3-1 SparkR 2.4.0
SparseM 1.77 空间 7.3-11 样 条 3.4.4
sqldf 0.4-11 SQUAREM 2017年10月-1日 statmod 1.4.30
统计数据 3.4.4 统计数据4 3.4.4 stringi 1.2.4
stringr 1.3.1 生存 2.43-1 tcltk 3.4.4
教学演示 2.10 testthat 2.0.1 tibble 1.4.2
tidyr 0.8.2 tidyselect 0.2.5 时间日期 3043.102
工具 3.4.4 usethis 1.4.0 utf8 1.1.4
utils 3.4.4 viridisLite 0.3.0 晶 须 0.3-2
withr 2.1.2 xml2 1.2.0 xopen 1.0.0
压缩包 1.0.0

已安装的 Java 库和 Scala 库（Scala 2.11 群集版本）

组 ID 项目 ID 版本
antlr antlr 2.7.7
com.amazonaws Amazon Kinesis 客户端 1.8.10
com.amazonaws aws-java-sdk-autoscaling 1.11.313
com.amazonaws aws-java-sdk-cloudformation 1.11.313
com.amazonaws AWS Java SDK CloudFront 1.11.313
com.amazonaws aws-java-sdk-cloudhsm 1.11.313
com.amazonaws AWS Java SDK 云搜索 1.11.313
com.amazonaws aws-java-sdk-cloudtrail 1.11.313
com.amazonaws aws-java-sdk-cloudwatch 1.11.313
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.313
com.amazonaws AWS Java SDK CodeDeploy（AWS Java 软件开发工具包 CodeDeploy） 1.11.313
com.amazonaws aws-java-sdk-cognitoidentity 1.11.313
com.amazonaws aws-java-sdk-cognitosync 1.11.313
com.amazonaws aws-java-sdk-config（AWS Java SDK 配置） 1.11.313
com.amazonaws aws-java-sdk-core (AWS Java软件开发工具包核心) 1.11.313
com.amazonaws aws-java-sdk-datapipeline 1.11.313
com.amazonaws aws-java-sdk-directconnect 1.11.313
com.amazonaws aws-java-sdk-directory 1.11.313
com.amazonaws aws-java-sdk-dynamodb 1.11.313
com.amazonaws aws-java-sdk-ec2 1.11.313
com.amazonaws aws-java-sdk-ecs 1.11.313
com.amazonaws aws-java-sdk-efs 1.11.313
com.amazonaws aws-java-sdk-elasticache 1.11.313
com.amazonaws aws-java-sdk-elasticbeanstalk（AWS Java 开发工具包 - Elastic Beanstalk） 1.11.313
com.amazonaws aws-java-sdk-弹性负载均衡 1.11.313
com.amazonaws aws-java-sdk-elastictranscoder（AWS Java SDK弹性转码器） 1.11.313
com.amazonaws aws-java-sdk-emr 1.11.313
com.amazonaws AWS Java SDK Glacier 1.11.313
com.amazonaws aws-java-sdk-iam 1.11.313
com.amazonaws AWS Java SDK 导入导出 (aws-java-sdk-importexport) 1.11.313
com.amazonaws aws-java-sdk-kinesis 1.11.313
com.amazonaws AWS Java 软件开发工具包 - KMS 1.11.313
com.amazonaws aws-java-sdk-lambda 1.11.313
com.amazonaws aws-java-sdk-logs（AWS Java开发包日志） 1.11.313
com.amazonaws AWS-Java-SDK-机器学习 1.11.313
com.amazonaws aws-java-sdk-opsworks 1.11.313
com.amazonaws aws-java-sdk-rds 1.11.313
com.amazonaws aws-java-sdk-redshift 1.11.313
com.amazonaws aws-java-sdk-route53 1.11.313
com.amazonaws aws-java-sdk-s3 1.11.313
com.amazonaws aws-java-sdk-ses 1.11.313
com.amazonaws aws-java-sdk-simpledb 1.11.313
com.amazonaws aws-java-sdk-simpleworkflow 1.11.313
com.amazonaws aws-java-sdk-sns 1.11.313
com.amazonaws aws-java-sdk-sqs 1.11.313
com.amazonaws aws-java-sdk-ssm 1.11.313
com.amazonaws AWS Java SDK 存储网关 1.11.313
com.amazonaws aws-java-sdk-sts 1.11.313
com.amazonaws AWS Java SDK支持 1.11.313
com.amazonaws AWS-Java-SDK-SWF-库 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.313
com.amazonaws jmespath-java 1.11.313
com.carrotsearch hppc 0.7.2
com.chuusai shapeless_2.11 2.3.2
com.clearspring.analytics 流 (stream) 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.11 0.5.0-db8-spark2.4
com.databricks dbml-local_2.11-tests 0.5.0-db8-spark2.4
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware kryo遮阳 4.0.2
com.esotericsoftware minlog 1.3.0
com.fasterxml 同学 1.0.0
com.fasterxml.jackson.core jackson-annotations（Jackson注解库） 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda（杰克逊数据类型-Joda） 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib 核心 1.1.2
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java-natives 1.1
com.github.fommil.netlib 原生系统-Java 1.1
com.github.fommil.netlib native_system-Java原生代码 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.luben zstd-jni 1.3.2-2
com.github.rwl jtransforms 2.4.0
com.google.code.findbugs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.guava 番石榴 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jcraft jsch 0.1.50
com.jolbox bonecp 0.8.0.RELEASE
com.mchange c3p0 0.9.5.1
com.mchange mchange-commons-java 0.2.10
com.microsoft.azure azure-data-lake-store-sdk 2.2.8
com.microsoft.sqlserver mssql-jdbc 6.2.2.jre8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.8
com.trueaccord.lenses lenses_2.11 0.3
com.twitter chill-java 0.9.3
com.twitter chill_2.11 0.9.3
com.twitter Parquet-Hadoop数据包 1.6.0
com.twitter util-app_2.11 6.23.0
com.twitter util-core_2.11 6.23.0
com.twitter util-jvm_2.11 6.23.0
com.typesafe 配置 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 2.1.2
com.univocity univocity-parsers解析器 2.7.3
com.vlkan FlatBuffers 1.2.0-3f79e055
com.zaxxer HikariCP 3.1.0
commons-beanutils commons-beanutils 1.7.0
commons-beanutils commons-beanutils-core 1.8.0
commons-cli commons-cli 1.2
commons-codec（公共编解码器） commons-codec（公共编解码器） 1.10
commons-collections (通用集合库) commons-collections (通用集合库) 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-net commons-net 3.1
commons-pool commons-pool 1.5.4
info.ganglia.gmetric4j gmetric4j 1.0.7
io.airlift 空气压缩机 0.10
io.dropwizard.metrics metrics-core 3.1.5
io.dropwizard.metrics metrics-ganglia 3.1.5
io.dropwizard.metrics metrics-graphite 3.1.5
io.dropwizard.metrics 指标-健康检查 3.1.5
io.dropwizard.metrics metrics-jetty9 3.1.5
io.dropwizard.metrics metrics-json 3.1.5
io.dropwizard.metrics metrics-jvm 3.1.5
io.dropwizard.metrics metrics-log4j 3.1.5
io.dropwizard.metrics 指标-Servlets 3.1.5
io.netty netty 3.9.9.Final
io.netty netty-all 4.1.17.Final
io.prometheus simpleclient 0.0.16
io.prometheus simpleclient_common 0.0.16
io.prometheus simpleclient_dropwizard 0.0.16
io.prometheus simpleclient_servlet 0.0.16
io.prometheus.jmx 收集器 0.7
javax.activation 激活 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1.1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2.11
joda-time joda-time 2.9.3
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
net.hydromatic eigenbase-属性 1.1.5
net.razorvine 辉岩 4.13
net.sf.jpam 杰潘 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.snowflake snowflake-ingest-sdk 0.9.5
net.snowflake snowflake-jdbc 3.6.15
net.snowflake spark-snowflake_2.11 2.4.10-spark_2.4
net.sourceforge.f2j arpack_combined_all 0.1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.7
org.antlr stringtemplate (字符串模板) 3.2.1
org.apache.ant 蚂蚁 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow 箭头格式 0.10.0
org.apache.arrow 箭头内存 0.10.0
org.apache.arrow 箭头向量 0.10.0
org.apache.avro avro 1.8.2
org.apache.avro avro-ipc 1.8.2
org.apache.avro avro-mapred-hadoop2 1.8.2
org.apache.calcite calcite-avatica 1.2.0（孵化中）
org.apache.calcite 如果没有标准的中文翻译且是专有名称，“calcite-core”可以保持不变。根据具体情况和语境决定是否需要翻译该术语。 1.2.0（孵化中）
org.apache.calcite calcite-linq4j 1.2.0（孵化中）
org.apache.commons commons-compress 1.8.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3.5
org.apache.commons commons-math3 3.4.1
org.apache.curator 策展人-客户端 2.7.1
org.apache.curator curator-framework 2.7.1
org.apache.curator 策展人食谱 2.7.1
org.apache.derby 德比 10.12.1.1
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop Hadoop客户端 2.7.3
org.apache.hadoop hadoop-common 2.7.3
org.apache.hadoop Hadoop 分布式文件系统 (Hadoop-HDFS) 2.7.3
org.apache.hadoop Hadoop MapReduce 客户端应用 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop Hadoop-YARN客户端 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0 孵化
org.apache.httpcomponents httpclient 4.5.4
org.apache.httpcomponents httpcore 4.4.8
org.apache.ivy 常春藤 2.4.0
org.apache.orc orc-core-nohive 1.5.2
org.apache.orc orc-mapreduce-nohive 1.5.2
org.apache.orc orc-shims 1.5.2
org.apache.parquet parquet-column 1.10.1-databricks3
org.apache.parquet parquet-common 1.10.1-databricks3
org.apache.parquet Parquet 编码 1.10.1-databricks3
org.apache.parquet Parquet格式 2.4.0
org.apache.parquet parquet-hadoop 1.10.1-databricks3
org.apache.parquet parquet-jackson 1.10.1-databricks3
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm6-shaded 4.8
org.apache.zookeeper 动物园管理员 3.4.6
org.codehaus.jackson jackson-core-asl 1.9.13
org.codehaus.jackson jackson-jaxrs 1.9.13
org.codehaus.jackson jackson-mapper-asl 1.9.13
org.codehaus.jackson jackson-xc 1.9.13
org.codehaus.janino commons-compiler（通用编译器） 3.0.9
org.codehaus.janino 雅尼诺 3.0.9
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.20.v20170531
org.eclipse.jetty jetty-continuation 9.3.20.v20170531
org.eclipse.jetty jetty-http 9.3.20.v20170531
org.eclipse.jetty jetty-io 9.3.20.v20170531
org.eclipse.jetty jetty-jndi 9.3.20.v20170531
org.eclipse.jetty jetty-plus 9.3.20.v20170531
org.eclipse.jetty jetty-proxy 9.3.20.v20170531
org.eclipse.jetty 码头安全 9.3.20.v20170531
org.eclipse.jetty jetty-server（Jetty服务器） 9.3.20.v20170531
org.eclipse.jetty jetty-servlet 9.3.20.v20170531
org.eclipse.jetty jetty-servlets 9.3.20.v20170531
org.eclipse.jetty Jetty工具库 9.3.20.v20170531
org.eclipse.jetty Jetty 网页应用 9.3.20.v20170531
org.eclipse.jetty jetty-xml 9.3.20.v20170531
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2-定位器 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator (OSGi 资源定位器) 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged jersey-guava 2.22.2
org.glassfish.jersey.containers jersey-container-servlet 2.22.2
org.glassfish.jersey.containers jersey-container-servlet-core 2.22.2
org.glassfish.jersey.core jersey-client 2.22.2
org.glassfish.jersey.core jersey-common 2.22.2
org.glassfish.jersey.core jersey-server 2.22.2
org.glassfish.jersey.media jersey-media-jaxb (Jersey 媒体库 - JAXB) 2.22.2
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy 活泼 0.2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.json4s json4s-ast_2.11 3.5.3
org.json4s json4s-core_2.11 3.5.3
org.json4s json4s-jackson_2.11 3.5.3
org.json4s json4s-scalap_2.11 3.5.3
org.lz4 lz4-java 1.4.0
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-all 1.9.5
org.objenesis objenesis 2.5.1
org.postgresql postgresql 42.1.4
org.roaringbitmap RoaringBitmap 0.5.11
.rocksdb rocksdbjni 5.2.1
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.8
org.scala-lang scala-library_2.11 2.11.8
org.scala-lang scala-reflect_2.11 2.11.8
org.scala-lang.modules scala-parser-combinators_2.11 1.0.2
org.scala-lang.modules scala-xml_2.11 1.0.5
org.scala-sbt 测试界面 1.0
org.scalacheck scalacheck_2.11 1.12.5
org.scalactic scalactic_2.11 3.0.3
org.scalanlp breeze-macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 3.0.3
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-exec 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive Hive 元数据存储器 1.2.1.spark2
org.spark-project.spark 未使用 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework 春季测试 4.1.4.RELEASE
org.tukaani xz 1.5
org.typelevel 机械师_2.11 0.6.1
org.typelevel macro-compat_2.11 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.7.1
org.yaml snakeyaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
斯塔克斯 stax-api 1.0.1
xmlenc xmlenc 0.52