Databricks Runtime 6.3（不受支持）

  • 项目

Databricks 于 2020 年 1 月发布了此映像。

以下发行说明提供了由 Apache Spark 支持的 Databricks Runtime 6.3 的相关信息。

新增功能

Delta Lake

此版本引入了增强的并发性。 关键功能包括：

  • 增强了所有 Delta Lake 操作的并发性 - 你现在可以同时运行更多 Delta Lake 操作。 Delta Lake 的乐观并发控制得到了改进，使冲突检测更加精细。 这样可以更轻松地在 Delta 表上运行复杂的工作流。 例如：

    • 在追加更新的分区时，在较旧的分区上同时运行删除（例如 GDPR 合规性）。
    • 在不相接的分区集上同时运行更新和合并。
    • 同时运行文件压缩和追加。

    请参阅 Azure Databricks 上的隔离级别和写入冲突。

  • 改进了对文件压缩的支持 - 现在可以通过将 DataFrameWriter 选项 dataChange 设置为 false 来重写文件，以压缩它们。 此选项允许压缩操作与其他批处理和流处理操作同时运行。 有关详细信息，请参阅压缩文件。

  • 改进了仅插入合并的性能 - Delta Lake 现在为只有插入子句且没有更新子句的合并操作提供了更优化的性能。 此外，Delta Lake 可确保来自此类仅插入合并的写入仅将新数据追加到表中。 因此，你现在可以使用结构化流和仅插入合并来连续进行重复数据删除（例如日志）。 请参阅写入 Delta 表时进行重复数据删除获取详细信息。

启用进程隔离时将其他端口列入允许列表

注意

本文包含对术语“白名单”的引用，Azure Databricks 不再使用该术语。 在从软件中删除该术语后，我们会将其从本文中删除。

在群集上启用安全功能（如表 ACL 或凭据传递）时，现在可以通过将 Spark 配置spark.databricks.pyspark.iptable.outbound.whitelisted.ports 设置为列入允许列表的端口，来指定希望 Python 进程能够访问的其他出站端口。 支持的配置值格式为 [port[:port][,port[:port]]...]，例如：21,22,9000:9999。 端口必须位于有效范围内，即 0-65535。

禁用 Scala 作业的作业输出

作业输出（如发送到 stdout 的日志输出）的大小限制为 20MB。 可以通过将 spark.databricks.driver.disableScalaOutput Spark 配置设置为 true 来阻止从驱动程序返回 Azure Databricks。 该标志控制 Scala JAR 作业和 Scala 笔记本的单元格输出。 请参阅 Jar 作业的输出大小限制。

Azure Databricks 笔记本中现在支持内联 Matplotlib 图形（公共预览版）

现在，你可以自动显示 Matplotlib 图形，而无需将图形传递给 display 方法。 有关详细信息，请参阅 Matplotlib。

已将新参数添加到 Azure Synapse Analytics

参数 applicationName 默认设置为 Databricks-User-Query。 默认值可防止 Azure DB 监视工具针对查询引发虚假 SQL 注入警报。 如果未指定此项，或者值为空字符串，则会将标记的默认值添加到 JDBC URL。 请参阅 Azure Databricks Synapse 连接器选项参考。

改进

  • shutil.copytree 现在可用于 /dbfs。
  • 在“高并发性”模式群集上运行结构化流式处理生产作业时，作业的重启有时会失败，因为以前运行的作业未正确终止。 若要确保以前的运行停止，请在群集上设置 SQL 配置 spark.sql.streaming.stopActiveRunOnRestart true。 如果流无法正确停止，则会在 15 秒内引发超时异常。 在这种情况下，建议重启群集。
  • 升级了多个已安装的 R 库。 请参阅已安装的 R 库。

Apache Spark

Databricks Runtime 6.3 包括 Apache Spark 2.4.4。 此版本包括 Databricks Runtime 6.2（不受支持）中所包含的所有 Spark 修复和改进，以及对 Spark 进行的以下其他 bug 修复和改进：

  • [SPARK-30198][CORE] BytesToBytesMap 不会像预期的那样增长内部长整型数组
  • [SPARK-29918][SQL] RecordBinaryComparator 应在比较长度时查看字节顺序
  • [SPARK-30274][CORE] 在保存达到最大容量的密钥时，请避免 BytesToBytesMap 查找永久挂起
  • [SPARK-25392][CORE][WEBUI] 从历史记录服务器访问池页时防止错误页
  • [SPARK-30263][CORE] 不要记录在 spark-submit 中忽略的非 Spark 属性的潜在敏感值
  • [SPARK-28637][SQL] Thriftserver 支持间隔类型
  • [SPARK-30238][SQL] 配置单元分区修剪只能支持字符串和积分类型
  • [SPARK-30198][CORE] BytesToBytesMap 不会像预期的那样增长内部长整型数组
  • [SPARK-24666][ML] 在 numIterations 为大时修复由 Word2Vec 生成的无穷大向量
  • [SPARK-30129][CORE] 成功身份验证后在 TransportClient 中设置客户端 ID
  • [SPARK-30050][SQL] 分析表和重命名表不应擦除配置单元表存储桶信息
  • [SPARK-28152][SQL] 将 ShortType 映射到 SMALLINT，将 FloatType 映射到 REAL for MsSqlServerDialect
  • [SPARK-29971][CORE] 修复 TransportFrameDecoder/TransportCipher 中的缓冲泄漏
  • [SPARK-29970][WEBUI] Timelineview 的维护程序打开/关闭状态
  • [SPARK-29949][SQL] 修复 JSON/CSV 数据源的时间戳格式
  • [SPARK-27558][CORE] 在任务失败并出现 OOM 异常时正常清理任务
  • [SPARK-29758][SQL] 修复 json_tuple 中请求的字符串字段的截断
  • [SPARK-29949][SQL] 修复 JSON/CSV 数据源的时间戳格式
  • [SPARK-29936][R] 修复 SparkR lint 的错误并添加 lint-r GitHub Action
  • [SPARK-29904][SQL] 通过 JSON/CSV 数据源以微秒精度解析时间戳
  • [SPARK-29904][SQL] 通过 JSON/CSV 数据源以微秒精度解析时间戳
  • [SPARK-26499][SQL] JdbcUtils.makeGetter 不处理 ByteType
  • [SPARK-29682][SQL] 正确解决扩展中的冲突属性
  • [SPARK-29875][PYTHON][SQL] 避免在 Spark 2.4.x 中使用已弃用的 pyarrow.open_stream API
  • [SPARK-29850][SQL] 排序-合并-联接空表时不应发生内存泄漏
  • [SPARK-28939][SQL] 传播 toRdd 执行的计划的 SQLConf

维护更新

请参阅 Databricks Runtime 6.3 维护更新。

系统环境

  • 操作系统：Ubuntu 16.04.6 LTS
  • Java：1.8.0_252
  • Scala：2.11.12
  • Python：3.7.3
  • R：R 版本 3.6.2 (2019-12-12)
  • Delta Lake：0.5.0

注意

尽管 Scala 2.12 可作为 Apache Spark 2.4 中的实验性功能提供，但 Databricks Runtime 6.3 不支持此功能。

本节内容：

已安装的 Python 库

库 版本 库 版本 库 版本
asn1crypto 0.24.0 backcall 0.1.0 boto 2.49.0
boto3 1.9.162 botocore 1.12.163 certifi 2019.3.9
cffi 1.12.2 chardet 3.0.4 密码系统 2.6.1
cycler 0.10.0 Cython 0.29.6 decorator 4.4.0
docutils 0.14 idna 2.8 ipykernel 5.1.0
ipython 7.4.0 ipython-genutils 0.2.0 jedi 0.13.3
jmespath 0.9.4 jupyter-client 5.2.4 jupyter-core 4.4.0
kiwisolver 1.1.0 matplotlib 3.0.3 numpy 1.16.2
pandas 0.24.2 parso 0.3.4 patsy 0.5.1
pexpect 4.6.0 pickleshare 0.7.5 pip 19.0.3
prompt-toolkit 2.0.9 psycopg2 2.7.6.1 ptyprocess 0.6.0
pyarrow 0.13.0 pycparser 2.19 pycurl 7.43.0
Pygments 2.3.1 PyGObject 3.20.0 pyOpenSSL 19.0.0
pyparsing 2.4.6 PySocks 1.6.8 python-apt 1.1.0.b1+ubuntu0.16.04.5
python-dateutil 2.8.0 pytz 2018.9 pyzmq 18.0.0
请求 2.21.0 s3transfer 0.2.1 scikit-learn 0.20.3
scipy 1.2.1 seaborn 0.9.0 setuptools 40.8.0
6 1.12.0 ssh-import-id 5.5 statsmodels 0.9.0
tornado 6.0.2 traitlets 4.3.2 unattended-upgrades 0.1
urllib3 1.24.1 virtualenv 16.4.1 wcwidth 0.1.7
wheel 0.33.1

已安装的 R 库

库 版本 库 版本 库 版本
abind 1.4-5 askpass 1.1 assertthat 0.2.1
backports 1.1.5 base 3.6.2 base64enc 0.1-3
BH 1.69.0-1 bit 1.1-14 bit64 0.9-7
bitops 1.0-6 blob 1.2.0 启动 1.3-23
brew 1.0-6 callr 3.3.2 汽车 3.0-4
carData 3.0-2 caret 6.0-84 cellranger 1.1.0
chron 2.3-54 class 7.3-15 cli 1.1.0
clipr 0.7.0 clisymbols 1.2.0 cluster 2.1.0
codetools 0.2-16 colorspace 1.4-1 commonmark 1.7
compiler 3.6.2 config 0.3 covr 3.3.2
crayon 1.3.4 crosstalk 1.0.0 curl 4.2
data.table 1.12.6 datasets 3.6.2 DBI 1.0.0
dbplyr 1.4.2 desc 1.2.0 devtools 2.2.1
digest 0.6.22 doMC 1.3.6 dplyr 0.8.3
DT 0.9 ellipsis 0.3.0 评估 0.14
fansi 0.4.0 fastmap 1.0.1 forcats 0.4.0
foreach 1.4.7 foreign 0.8-74 forge 0.2.0
fs 1.3.1 gbm 2.1.5 generics 0.0.2
ggplot2 3.2.1 gh 1.0.1 git2r 0.26.1
glmnet 2.0-18 glue 1.3.1 gower 0.2.1
graphics 3.6.2 grDevices 3.6.2 grid 3.6.2
gridExtra 2.3 gsubfn 0.7 gtable 0.3.0
h2o 3.26.0.2 haven 2.1.1 hms 0.5.1
htmltools 0.4.0 htmlwidgets 1.5.1 httpuv 1.5.2
httr 1.4.1 hwriter 1.3.2 hwriterPlus 1.0-3
ini 0.3.1 ipred 0.9-9 iterators 1.0.12
jsonlite 1.6 KernSmooth 2.23-16 labeling 0.3
later 1.0.0 lattice 0.20-38 lava 1.6.6
lazyeval 0.2.2 lifecycle 0.1.0 littler 0.3.9
lme4 1.1-21 lubridate 1.7.4 magrittr 1.5
mapproj 1.2.6 maps 3.3.0 maptools 0.9-8
MASS 7.3-51.5 矩阵 1.2-18 MatrixModels 0.4-1
memoise 1.1.0 方法 3.6.2 mgcv 1.8-31
mime 0.7 minqa 1.2.4 ModelMetrics 1.2.2
munsell 0.5.0 mvtnorm 1.0-11 nlme 3.1-143
nloptr 1.2.1 nnet 7.3-12 numDeriv 2016.8-1.1
openssl 1.4.1 openxlsx 4.1.2 parallel 3.6.2
pbkrtest 0.4-7 pillar 1.4.2 pkgbuild 1.0.6
pkgconfig 2.0.3 pkgKitten 0.1.5 pkgload 1.0.2
plogr 0.2.0 plyr 1.8.4 praise 1.0.0
prettyunits 1.0.2 pROC 1.15.3 processx 3.4.1
prodlim 2018.04.18 进度 1.2.2 promises 1.1.0
proto 1.0.0 ps 1.3.0 purrr 0.3.3
quantreg 5.51 R.methodsS3 1.7.1 R.oo 1.22.0
R.utils 2.9.0 r2d3 0.2.3 R6 2.4.0
randomForest 4.6-14 rappdirs 0.3.1 rcmdcheck 1.3.3
RColorBrewer 1.1-2 Rcpp 1.0.2 RcppEigen 0.3.3.5.0
RCurl 1.95-4.12 readr 1.3.1 readxl 1.3.1
recipes 0.1.7 rematch 1.0.1 remotes 2.1.0
reshape2 1.4.3 rex 1.1.2 rio 0.5.16
rlang 0.4.1 RODBC 1.3-16 roxygen2 6.1.1
rpart 4.1-15 rprojroot 1.3-2 Rserve 1.8-6
RSQLite 2.1.2 rstudioapi 0.10 rversions 2.0.0
scales 1.0.0 sessioninfo 1.1.1 shiny 1.4.0
sourcetools 0.1.7 sp 1.3-1 sparklyr 1.0.4
SparkR 2.4.5 SparseM 1.77 spatial 7.3-11
splines 3.6.2 sqldf 0.4-11 SQUAREM 2017.10-1
statmod 1.4.32 stats 3.6.2 stats4 3.6.2
stringi 1.4.3 stringr 1.4.0 survival 2.44-1.1
sys 3.3 tcltk 3.6.2 TeachingDemos 2.10
testthat 2.2.1 tibble 2.1.3 tidyr 1.0.0
tidyselect 0.2.5 timeDate 3043.102 工具 3.6.2
usethis 1.5.1 utf8 1.1.4 utils 3.6.2
vctrs 0.2.0 viridisLite 0.3.0 whisker 0.4
withr 2.1.2 xml2 1.2.2 xopen 1.0.0
xtable 1.8-4 yaml 2.2.0 zeallot 0.1.0
zip 2.0.4

已安装的 Java 库和 Scala 库（Scala 2.11 群集版本）

组 ID 项目 ID 版本
antlr antlr 2.7.7
com.amazonaws amazon-kinesis-client 1.8.10
com.amazonaws aws-java-sdk-autoscaling 1.11.595
com.amazonaws aws-java-sdk-cloudformation 1.11.595
com.amazonaws aws-java-sdk-cloudfront 1.11.595
com.amazonaws aws-java-sdk-cloudhsm 1.11.595
com.amazonaws aws-java-sdk-cloudsearch 1.11.595
com.amazonaws aws-java-sdk-cloudtrail 1.11.595
com.amazonaws aws-java-sdk-cloudwatch 1.11.595
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.595
com.amazonaws aws-java-sdk-codedeploy 1.11.595
com.amazonaws aws-java-sdk-cognitoidentity 1.11.595
com.amazonaws aws-java-sdk-cognitosync 1.11.595
com.amazonaws aws-java-sdk-config 1.11.595
com.amazonaws aws-java-sdk-core 1.11.595
com.amazonaws aws-java-sdk-datapipeline 1.11.595
com.amazonaws aws-java-sdk-directconnect 1.11.595
com.amazonaws aws-java-sdk-directory 1.11.595
com.amazonaws aws-java-sdk-dynamodb 1.11.595
com.amazonaws aws-java-sdk-ec2 1.11.595
com.amazonaws aws-java-sdk-ecs 1.11.595
com.amazonaws aws-java-sdk-efs 1.11.595
com.amazonaws aws-java-sdk-elasticache 1.11.595
com.amazonaws aws-java-sdk-elasticbeanstalk 1.11.595
com.amazonaws aws-java-sdk-elasticloadbalancing 1.11.595
com.amazonaws aws-java-sdk-elastictranscoder 1.11.595
com.amazonaws aws-java-sdk-emr 1.11.595
com.amazonaws aws-java-sdk-glacier 1.11.595
com.amazonaws aws-java-sdk-glue 1.11.595
com.amazonaws aws-java-sdk-iam 1.11.595
com.amazonaws aws-java-sdk-importexport 1.11.595
com.amazonaws aws-java-sdk-kinesis 1.11.595
com.amazonaws aws-java-sdk-kms 1.11.595
com.amazonaws aws-java-sdk-lambda 1.11.595
com.amazonaws aws-java-sdk-logs 1.11.595
com.amazonaws aws-java-sdk-machinelearning 1.11.595
com.amazonaws aws-java-sdk-opsworks 1.11.595
com.amazonaws aws-java-sdk-rds 1.11.595
com.amazonaws aws-java-sdk-redshift 1.11.595
com.amazonaws aws-java-sdk-route53 1.11.595
com.amazonaws aws-java-sdk-s3 1.11.595
com.amazonaws aws-java-sdk-ses 1.11.595
com.amazonaws aws-java-sdk-simpledb 1.11.595
com.amazonaws aws-java-sdk-simpleworkflow 1.11.595
com.amazonaws aws-java-sdk-sns 1.11.595
com.amazonaws aws-java-sdk-sqs 1.11.595
com.amazonaws aws-java-sdk-ssm 1.11.595
com.amazonaws aws-java-sdk-storagegateway 1.11.595
com.amazonaws aws-java-sdk-sts 1.11.595
com.amazonaws aws-java-sdk-support 1.11.595
com.amazonaws aws-java-sdk-swf-libraries 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.595
com.amazonaws jmespath-java 1.11.595
com.carrotsearch hppc 0.7.2
com.chuusai shapeless_2.11 2.3.2
com.clearspring.analytics 流 (stream) 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.11 0.5.0-db8-spark2.4
com.databricks dbml-local_2.11-tests 0.5.0-db8-spark2.4
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware kryo-shaded 4.0.2
com.esotericsoftware minlog 1.3.0
com.fasterxml classmate 1.0.0
com.fasterxml.jackson.core jackson-annotations 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib core 1.1.2
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java-natives 1.1
com.github.fommil.netlib native_system-java 1.1
com.github.fommil.netlib native_system-java-natives 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.luben zstd-jni 1.3.2-2
com.github.rwl jtransforms 2.4.0
com.google.code.findbugs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.guava guava 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jcraft jsch 0.1.50
com.jolbox bonecp 0.8.0.RELEASE
com.microsoft.azure azure-data-lake-store-sdk 2.2.8
com.microsoft.azure azure-storage 7.0.0
com.microsoft.sqlserver mssql-jdbc 6.2.2.jre8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.8
com.trueaccord.lenses lenses_2.11 0.3
com.twitter chill-java 0.9.3
com.twitter chill_2.11 0.9.3
com.twitter parquet-hadoop-bundle 1.6.0
com.twitter util-app_2.11 6.23.0
com.twitter util-core_2.11 6.23.0
com.twitter util-jvm_2.11 6.23.0
com.typesafe config 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 2.1.2
com.univocity univocity-parsers 2.7.3
com.vlkan flatbuffers 1.2.0-3f79e055
com.zaxxer HikariCP 3.1.0
commons-beanutils commons-beanutils 1.9.4
commons-cli commons-cli 1.2
commons-codec commons-codec 1.10
commons-collections commons-collections 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-net commons-net 3.1
commons-pool commons-pool 1.5.4
info.ganglia.gmetric4j gmetric4j 1.0.7
io.airlift aircompressor 0.10
io.dropwizard.metrics metrics-core 3.1.5
io.dropwizard.metrics metrics-ganglia 3.1.5
io.dropwizard.metrics metrics-graphite 3.1.5
io.dropwizard.metrics metrics-healthchecks 3.1.5
io.dropwizard.metrics metrics-jetty9 3.1.5
io.dropwizard.metrics metrics-json 3.1.5
io.dropwizard.metrics metrics-jvm 3.1.5
io.dropwizard.metrics metrics-log4j 3.1.5
io.dropwizard.metrics metrics-servlets 3.1.5
io.netty netty 3.9.9.Final
io.netty netty-all 4.1.42.Final
javax.activation activation 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1.1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2.14.6
joda-time joda-time 2.9.3
junit junit 4.12
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
net.hydromatic eigenbase-properties 1.1.5
net.razorvine pyrolite 4.13
net.sf.jpam jpam 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.snowflake snowflake-ingest-sdk 0.9.6
net.snowflake snowflake-jdbc 3.12.0
net.snowflake spark-snowflake_2.11 2.5.9-spark_2.4
net.sourceforge.f2j arpack_combined_all 0.1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.7
org.antlr stringtemplate 3.2.1
org.apache.ant ant 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow arrow-format 0.10.0
org.apache.arrow arrow-memory 0.10.0
org.apache.arrow arrow-vector 0.10.0
org.apache.avro avro 1.8.2
org.apache.avro avro-ipc 1.8.2
org.apache.avro avro-mapred-hadoop2 1.8.2
org.apache.calcite calcite-avatica 1.2.0-incubating
org.apache.calcite calcite-core 1.2.0-incubating
org.apache.calcite calcite-linq4j 1.2.0-incubating
org.apache.commons commons-compress 1.8.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3.5
org.apache.commons commons-math3 3.4.1
org.apache.curator curator-client 2.7.1
org.apache.curator curator-framework 2.7.1
org.apache.curator curator-recipes 2.7.1
org.apache.derby derby 10.12.1.1
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop hadoop-client 2.7.3
org.apache.hadoop hadoop-common 2.7.3
org.apache.hadoop hadoop-hdfs 2.7.3
org.apache.hadoop hadoop-mapreduce-client-app 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop hadoop-yarn-client 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0-incubating
org.apache.httpcomponents httpclient 4.5.6
org.apache.httpcomponents httpcore 4.4.10
org.apache.ivy ivy 2.4.0
org.apache.orc orc-core-nohive 1.5.5
org.apache.orc orc-mapreduce-nohive 1.5.5
org.apache.orc orc-shims 1.5.5
org.apache.parquet parquet-column 1.10.1.2-databricks4
org.apache.parquet parquet-common 1.10.1.2-databricks4
org.apache.parquet parquet-encoding 1.10.1.2-databricks4
org.apache.parquet parquet-format 2.4.0
org.apache.parquet parquet-hadoop 1.10.1.2-databricks4
org.apache.parquet parquet-jackson 1.10.1.2-databricks4
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm6-shaded 4.8
org.apache.zookeeper zookeeper 3.4.6
org.codehaus.jackson jackson-core-asl 1.9.13
org.codehaus.jackson jackson-jaxrs 1.9.13
org.codehaus.jackson jackson-mapper-asl 1.9.13
org.codehaus.jackson jackson-xc 1.9.13
org.codehaus.janino commons-compiler 3.0.10
org.codehaus.janino janino 3.0.10
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.27.v20190418
org.eclipse.jetty jetty-continuation 9.3.27.v20190418
org.eclipse.jetty jetty-http 9.3.27.v20190418
org.eclipse.jetty jetty-io 9.3.27.v20190418
org.eclipse.jetty jetty-jndi 9.3.27.v20190418
org.eclipse.jetty jetty-plus 9.3.27.v20190418
org.eclipse.jetty jetty-proxy 9.3.27.v20190418
org.eclipse.jetty jetty-security 9.3.27.v20190418
org.eclipse.jetty jetty-server 9.3.27.v20190418
org.eclipse.jetty jetty-servlet 9.3.27.v20190418
org.eclipse.jetty jetty-servlets 9.3.27.v20190418
org.eclipse.jetty jetty-util 9.3.27.v20190418
org.eclipse.jetty jetty-webapp 9.3.27.v20190418
org.eclipse.jetty jetty-xml 9.3.27.v20190418
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2-locator 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged jersey-guava 2.22.2
org.glassfish.jersey.containers jersey-container-servlet 2.22.2
org.glassfish.jersey.containers jersey-container-servlet-core 2.22.2
org.glassfish.jersey.core jersey-client 2.22.2
org.glassfish.jersey.core jersey-common 2.22.2
org.glassfish.jersey.core jersey-server 2.22.2
org.glassfish.jersey.media jersey-media-jaxb 2.22.2
org.hamcrest hamcrest-core 1.3
org.hamcrest hamcrest-library 1.3
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy snappy 0.2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.json4s json4s-ast_2.11 3.5.3
org.json4s json4s-core_2.11 3.5.3
org.json4s json4s-jackson_2.11 3.5.3
org.json4s json4s-scalap_2.11 3.5.3
org.lz4 lz4-java 1.4.0
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-core 1.10.19
org.objenesis objenesis 2.5.1
org.postgresql postgresql 42.1.4
org.roaringbitmap RoaringBitmap 0.7.45
org.roaringbitmap shims 0.7.45
org.rocksdb rocksdbjni 6.2.2
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.12
org.scala-lang scala-library_2.11 2.11.12
org.scala-lang scala-reflect_2.11 2.11.12
org.scala-lang.modules scala-parser-combinators_2.11 1.1.0
org.scala-lang.modules scala-xml_2.11 1.0.5
org.scala-sbt test-interface 1.0
org.scalacheck scalacheck_2.11 1.12.5
org.scalactic scalactic_2.11 3.0.3
org.scalanlp breeze-macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 3.0.3
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive hive-metastore 1.2.1.spark2
org.spark-project.spark unused 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework spring-test 4.1.4.RELEASE
org.tukaani xz 1.5
org.typelevel machinist_2.11 0.6.1
org.typelevel macro-compat_2.11 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.7.3
org.yaml snakeyaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
stax stax-api 1.0.1
xmlenc xmlenc 0.52