通过

Databricks Runtime 5.1 (EoS)

  • 项目

注意

对此 Databricks Runtime 版本的支持已结束。 有关终止支持日期，请参阅终止支持历史记录。 有关所有受支持的 Databricks Runtime 版本，请参阅 Databricks Runtime 发行说明版本和兼容性。

Databricks 于 2018 年 12 月发布了此映像。

重要

此版本已于 2023 年 5 月 2 日弃用。 有关 Databricks Runtime 弃用策略和计划的详细信息，请参阅 Databricks 支持生命周期。

以下发行说明提供了由 Apache Spark 支持的 Databricks Runtime 5.1 的相关信息。

新增功能

  • Delta Lake

    • 支持 MERGE INTO 中的扩展语法。

      • 支持多个 MATCHED 子句，MATCHED 和 NOT MATCHED 子句中的附加条件，以及 DELETE 操作。 这对于将数据库中更改的数据（插入数据、更新数据和删除数据）写入到 Delta 表非常有用。
      • 支持在 UPDATE 和 INSERT 操作中使用 * 自动填写列名称（类似于 SELECT 中的 *）。 这样就可以更轻松地为具有极大量列的表编写 MERGE 查询。

      有关示例，请参阅 MERGE INTO。

    • 支持 Delta 表的可调隔离级别。

      • 可以将 Delta 表配置为具有以下两个隔离级别之一：Serializable 和 WriteSerializable（默认值）。
      • 默认隔离级别从 Serializable 放宽到 WriteSerializable，以提高可用性。 具体而言，将允许 UPDATE、DELETE 和 MERGE 与追加并发运行（例如，从流式处理查询运行时就是如此）。 请参阅 Azure Databricks 上的隔离级别和写入冲突来了解此放宽的含义，以及在需要时强制执行以前的行为的步骤。

    • CONVERT TO DELTA 命令的个人预览版，可以用来将 Parquet 表就地转换为 Delta 表，无需复制任何文件。 如果你有兴趣试用，请联系 Azure Databricks 支持人员。

  • 适用于 Python 的作用域为笔记本的库。 你现在可以使用 Databricks 实用工具库 API 将 Python 库（包括 Eggs、Wheels 和 PyPI）安装到 Python 笔记本。 通过此 API 安装的库仅在安装了这些库的笔记本中可用。 请参阅库实用工具 (dbutils.library)（旧版）。

    重要

    此功能目前以公共预览版提供。

    默认情况下，在运行 Databricks Runtime 5.1 的群集上启用了库实用工具。 因此，默认情况下会通过使用单独的 Python 可执行文件隔离每个笔记本的 Python REPL 进程，该可执行文件是在笔记本附加到群集并继承群集上的默认 Python 环境时创建的。 通过初始化脚本安装到 Azure Databricks Python 环境中的库仍可用。 可以通过将 spark.databricks.libraryIsolation.enabled 设置为 false 禁用此功能。

  • display 函数现在支持 pandas 数据帧。 请参阅创建新的可视化效果。

改进

  • Delta Lake
    • 使用大量小文件提高了 OPTIMIZE 的可伸缩性。
    • 你现在可以在 UPDATE 中 SET 嵌套列。
  • SQL 性能
    • 通过仅提取前 n 个分区优化 LIMIT。
    • 优化范围联接。 我们添加了优化器规则来重写范围联接，使其以更有效的方式执行。 这可以使此类型的查询的速度加快一个数量级。 若要启用优化，请向查询中添加提示。 当前的重写支持以下范围联接查询形式：
      • 间隔中的点：a.begin < b.point AND b.point < a.end
      • 间隔重叠：a.begin < b.end AND b.begin < a.end
  • 升级了 ADLS Gen2 的连接器，其中包括重要的 Bug 修复。 建议将 Azure Data Lake Storage Gen2 的所有用户升级到 Databricks Runtime 5.1。
  • 已将 Java 从 1.8.0_162 升级到 1.8.0_181。
  • 已将 Spark 的 Snowflake 连接器升级到 2.4.10。
  • 升级了一些已安装的 Python 库：
    • pip：从 18.0 升级到了 18.1
    • setuptools：从 40.4.1 升级到了 40.6.2
    • virtualenv：从 15.0.1 升级到了 16.1.0
    • wheel：从 0.31.1 升级到了 0.32.3
  • 升级了多个已安装的 R 库。 请参阅已安装的 R 库。

Bug 修复

  • 修复了 Azure Data Lake Storage Gen2 支持中无法列出文件数多于 5000 个的目录这一 bug。
  • TRANSFORM 应会正确处理不同的输入数据类型。
  • 在执行程序死后，清理过期的外部无序文件，以防止长时间运行的群集耗尽磁盘。

Apache Spark

Databricks Runtime 5.1 包括 Apache Spark 2.4.0。 此版本包括 Databricks Runtime 5.0 (EoS) 中包含的所有修复和改进，以及对 Spark 进行的以下其他缺陷修复和改进：

  • [SPARK-26147][SQL] 仅从联接条件移除不可评估的 python udf
  • [SPARK-26129][SQL] 检测每个查询的计划时间
  • [SPARK-25921][PYSPARK] 修复 python 辅助角色重用时无 BarrierTaskContext 的屏障任务运行
  • [SPARK-23207][SQL] 使用 SQLConf.get.enableRadixSort 而非 SparkEnv.get.conf.get(SQLConf.RADIX_SORT_ENABLED)
  • [SPARK-26057][SQL] 转换在删除重复引用的同时分析了计划
  • [SPARK-25974][SQL] 优化生成的字节码，以便根据给定顺序排序
  • [SPARK-25901][CORE] 在 BarrierTaskContext 中仅使用一个线程…
  • [SPARK-25381][SQL] 按列参数进行分层抽样
  • [SPARK-25514][SQL] 通过 to_json 生成结构良好的 JSON
  • [SPARK-22827][SQL] 在 HashAggregateExec 中也引发 SparkOutOfMemoryError。
  • [SPARK-25979][SQL] 窗口函数：允许在窗口引用前后加上括号
  • [SPARK-25988][SQL] 在分析器中删除重复列名时，使名称保持不变
  • [SPARK-25904][CORE] 分配小于 Int.MaxValue 的数组
  • [SPARK-24901][SQL] 当 VectorizedHashMap 为 false 时，合并 RegularHashMap 和 fastHashMap 的 codegen，以降低编译器的 maxCodesize。
  • [SPARK-25850][SQL] 使代码生成函数的拆分阈值可配置
  • [SPARK-25866][ML] 更新 KMeans formatVersion
  • [SPARK-22148][SPARK-15815][SCHEDULER] 获取新的执行程序，避免因加入阻止列表而挂起
  • [SPARK-25827][CORE] 避免将传入的加密块转换为字节缓冲区
  • [SPARK-25918][SQL] LOAD DATA LOCAL INPATH 应处理相对路径
  • [SPARK-25837][CORE] 修复清理阶段 AppStatusListener 中潜在的速度降低问题
  • [SPARK-25773][CORE] 作业完成时，在结果阶段取消僵尸任务 (5.x)
  • [SPARK-25767][SQL] 在代码生成过程中修复延迟计算的表达式流
  • [SPARK-25819][SQL] 支持函数 from_avro 的分析模式选项
  • [SPARK-25044] 更改 ScalaUDF 构造函数签名
  • [SPARK-25699][SQL] 部分下推 ORC 中断言的连接词
  • [SPARK-25559][SQL] 当 … 时删除 Parquet 中不受支持的谓词
  • [SPARK-25540][SPARK-25525][SQL][PYSPARK] 不要为 SparkSession.getOrCreate 中的现有 SparkContext 更新 conf。
  • [SPARK-25595] 如果启用了标志 IGNORE_CORRUPT_FILES，则忽略损坏的 Avro 文件
  • [SPARK-25458][SQL] 支持 ANALYZE TABLE 中的 FOR ALL COLUMNS
  • [SPARK-25449][CORE] 检测信号不应包含零指标的累加器
  • [SPARK-25399][SS] 连续处理状态不应影响微批执行作业
  • [SPARK-26092][SS] 使用 CheckpointFileManager 写入流式处理元数据文件

维护更新

请参阅 Databricks Runtime 5.1 维护更新。

系统环境

  • 操作系统：Ubuntu 16.04.5 LTS
  • Java：1.8.0_181
  • Scala：2.11.8
  • Python：2.7.12 适用于 Python 2 群集，3.5.2 适用于 Python 3 群集。
  • R：R 版本 3.4.4 (2018-03-15)
  • GPU 群集：安装了以下 NVIDIA GPU 库：
    • Tesla 驱动程序 375.66
    • CUDA 9.0
    • cuDNN 7.0

注意

尽管 Apache Spark 2.4 支持 Scala 2.12，但 Databricks Runtime 5.1 不支持。

已安装的 Python 库

库 版本 库 版本 库 版本
ansi2html 1.1.1 argparse 1.2.1 backports-abc 0.5
boto 2.42.0 boto3 1.4.1 botocore 1.4.70
brewer2mpl 1.4.1 certifi 2016.2.28 cffi 1.7.0
chardet 2.3.0 colorama 0.3.7 configobj 5.0.6
密码系统 1.5 cycler 0.10.0 Cython 0.24.1
decorator 4.0.10 docutils 0.14 enum34 1.1.6
et-xmlfile 1.0.1 freetype-py 1.0.2 funcsigs 1.0.2
fusepy 2.0.4 Future 3.2.0 ggplot 0.6.8
html5lib 0.999 idna 2.1 ipaddress 1.0.16
ipython 2.2.0 ipython-genutils 0.1.0 jdcal 1.2
Jinja2 2.8 jmespath 0.9.0 llvmlite 0.13.0
lxml 3.6.4 MarkupSafe 0.23 matplotlib 1.5.3
mpld3 0.2 msgpack-python 0.4.7 ndg-httpsclient 0.3.3
numba 0.28.1 numpy 1.11.1 openpyxl 2.3.2
pandas 0.19.2 pathlib2 2.1.0 patsy 0.4.1
pexpect 4.0.1 pickleshare 0.7.4 Pillow 3.3.1
pip 18.1 ply 3.9 prompt-toolkit 1.0.7
psycopg2 2.6.2 ptyprocess 0.5.1 py4j 0.10.3
pyarrow 0.8.0 pyasn1 0.1.9 pycparser 2.14
Pygments 2.1.3 PyGObject 3.20.0 pyOpenSSL 16.0.0
pyparsing 2.2.0 pypng 0.0.18 Python 2.7.12
python-dateutil 2.5.3 python-geohash 0.8.5 pytz 2016.6.1
请求 2.11.1 s3transfer 0.1.9 scikit-learn 0.18.1
scipy 0.18.1 scour 0.32 seaborn 0.7.1
setuptools 40.6.2 simplejson 3.8.2 simples3 1.0
singledispatch 3.4.0.3 6 1.10.0 statsmodels 0.6.1
tornado 5.1.1 traitlets 4.3.0 urllib3 1.19.1
virtualenv 16.1.0 wcwidth 0.1.7 wheel 0.32.3
wsgiref 0.1.2

已安装的 R 库

库 版本 库 版本 库 版本
abind 1.4-5 assertthat 0.2.0 backports 1.1.2
base 3.4.4 base64enc 0.1-3 BH 1.66.0-1
bindr 0.1.1 bindrcpp 0.2.2 bit 1.1-14
bit64 0.9-7 bitops 1.0-6 blob 1.1.1
boot 1.3-20 brew 1.0-6 broom 0.5.0
callr 3.0.0 car 3.0-2 carData 3.0-2
caret 6.0-80 cellranger 1.1.0 chron 2.3-53
class 7.3-14 cli 1.0.1 clipr 0.4.1
clisymbols 1.2.0 cluster 2.0.7-1 codetools 0.2-15
colorspace 1.3-2 commonmark 1.6 compiler 3.4.4
crayon 1.3.4 curl 3.2 CVST 0.2-2
data.table 1.11.8 datasets 3.4.4 DBI 1.0.0
ddalpha 1.3.4 DEoptimR 1.0-8 desc 1.2.0
devtools 2.0.1 digest 0.6.18 dimRed 0.1.0
doMC 1.3.5 dplyr 0.7.7 DRR 0.0.3
fansi 0.4.0 forcats 0.3.0 foreach 1.4.4
foreign 0.8-70 fs 1.2.6 gbm 2.1.4
geometry 0.3-6 ggplot2 3.1.0 gh 1.0.1
git2r 0.23.0 glmnet 2.0-16 glue 1.3.0
gower 0.1.2 graphics 3.4.4 grDevices 3.4.4
grid 3.4.4 gridExtra 2.3 gsubfn 0.7
gtable 0.2.0 h2o 3.20.0.8 haven 1.1.2
hms 0.4.2 httr 1.3.1 hwriter 1.3.2
hwriterPlus 1.0-3 ini 0.3.1 ipred 0.9-8
iterators 1.0.10 jsonlite 1.5 kernlab 0.9-27
KernSmooth 2.23-15 labeling 0.3 lattice 0.20-38
lava 1.6.3 lazyeval 0.2.1 littler 0.3.5
lme4 1.1-18-1 lubridate 1.7.4 magic 1.5-9
magrittr 1.5 mapproj 1.2.6 maps 3.3.0
maptools 0.9-4 MASS 7.3-50 矩阵 1.2-14
MatrixModels 0.4-1 memoise 1.1.0 methods 3.4.4
mgcv 1.8-25 mime 0.6 minqa 1.2.4
ModelMetrics 1.2.2 munsell 0.5.0 mvtnorm 1.0-8
nlme 3.1-137 nloptr 1.2.1 nnet 7.3-12
numDeriv 2016.8-1 openssl 1.0.2 openxlsx 4.1.0
parallel 3.4.4 pbkrtest 0.4-7 pillar 1.3.0
pkgbuild 1.0.2 pkgconfig 2.0.2 pkgKitten 0.1.4
pkgload 1.0.2 plogr 0.2.0 pls 2.7-0
plyr 1.8.4 praise 1.0.0 prettyunits 1.0.2
pROC 1.13.0 processx 3.2.0 prodlim 2018.04.18
proto 1.0.0 ps 1.2.0 purrr 0.2.5
quantreg 5.36 R.methodsS3 1.7.1 R.oo 1.22.0
R.utils 2.7.0 R6 2.3.0 randomForest 4.6-14
rcmdcheck 1.3.1 RColorBrewer 1.1-2 Rcpp 0.12.19
RcppEigen 0.3.3.4.0 RcppRoll 0.3.0 RCurl 1.95-4.11
readr 1.1.1 readxl 1.1.0 recipes 0.1.3
rematch 1.0.1 remotes 2.0.2 reshape2 1.4.3
rio 0.5.10 rlang 0.3.0.1 robustbase 0.93-3
RODBC 1.3-15 roxygen2 6.1.0 rpart 4.1-13
rprojroot 1.3-2 Rserve 1.7-3 RSQLite 2.1.1
rstudioapi 0.8 scales 1.0.0 sessioninfo 1.1.1
sfsmisc 1.1-2 sp 1.3-1 SparkR 2.4.0
SparseM 1.77 spatial 7.3-11 splines 3.4.4
sqldf 0.4-11 SQUAREM 2017.10-1 statmod 1.4.30
stats 3.4.4 stats4 3.4.4 stringi 1.2.4
stringr 1.3.1 survival 2.43-1 tcltk 3.4.4
TeachingDemos 2.10 testthat 2.0.1 tibble 1.4.2
tidyr 0.8.2 tidyselect 0.2.5 timeDate 3043.102
tools 3.4.4 usethis 1.4.0 utf8 1.1.4
utils 3.4.4 viridisLite 0.3.0 whisker 0.3-2
withr 2.1.2 xml2 1.2.0 xopen 1.0.0
zip 1.0.0

已安装的 Java 库和 Scala 库（Scala 2.11 群集版本）

组 ID 项目 ID 版本
antlr antlr 2.7.7
com.amazonaws amazon-kinesis-client 1.8.10
com.amazonaws aws-java-sdk-autoscaling 1.11.313
com.amazonaws aws-java-sdk-cloudformation 1.11.313
com.amazonaws aws-java-sdk-cloudfront 1.11.313
com.amazonaws aws-java-sdk-cloudhsm 1.11.313
com.amazonaws aws-java-sdk-cloudsearch 1.11.313
com.amazonaws aws-java-sdk-cloudtrail 1.11.313
com.amazonaws aws-java-sdk-cloudwatch 1.11.313
com.amazonaws aws-java-sdk-cloudwatchmetrics 1.11.313
com.amazonaws aws-java-sdk-codedeploy 1.11.313
com.amazonaws aws-java-sdk-cognitoidentity 1.11.313
com.amazonaws aws-java-sdk-cognitosync 1.11.313
com.amazonaws aws-java-sdk-config 1.11.313
com.amazonaws aws-java-sdk-core 1.11.313
com.amazonaws aws-java-sdk-datapipeline 1.11.313
com.amazonaws aws-java-sdk-directconnect 1.11.313
com.amazonaws aws-java-sdk-directory 1.11.313
com.amazonaws aws-java-sdk-dynamodb 1.11.313
com.amazonaws aws-java-sdk-ec2 1.11.313
com.amazonaws aws-java-sdk-ecs 1.11.313
com.amazonaws aws-java-sdk-efs 1.11.313
com.amazonaws aws-java-sdk-elasticache 1.11.313
com.amazonaws aws-java-sdk-elasticbeanstalk 1.11.313
com.amazonaws aws-java-sdk-elasticloadbalancing 1.11.313
com.amazonaws aws-java-sdk-elastictranscoder 1.11.313
com.amazonaws aws-java-sdk-emr 1.11.313
com.amazonaws aws-java-sdk-glacier 1.11.313
com.amazonaws aws-java-sdk-iam 1.11.313
com.amazonaws aws-java-sdk-importexport 1.11.313
com.amazonaws aws-java-sdk-kinesis 1.11.313
com.amazonaws aws-java-sdk-kms 1.11.313
com.amazonaws aws-java-sdk-lambda 1.11.313
com.amazonaws aws-java-sdk-logs 1.11.313
com.amazonaws aws-java-sdk-machinelearning 1.11.313
com.amazonaws aws-java-sdk-opsworks 1.11.313
com.amazonaws aws-java-sdk-rds 1.11.313
com.amazonaws aws-java-sdk-redshift 1.11.313
com.amazonaws aws-java-sdk-route53 1.11.313
com.amazonaws aws-java-sdk-s3 1.11.313
com.amazonaws aws-java-sdk-ses 1.11.313
com.amazonaws aws-java-sdk-simpledb 1.11.313
com.amazonaws aws-java-sdk-simpleworkflow 1.11.313
com.amazonaws aws-java-sdk-sns 1.11.313
com.amazonaws aws-java-sdk-sqs 1.11.313
com.amazonaws aws-java-sdk-ssm 1.11.313
com.amazonaws aws-java-sdk-storagegateway 1.11.313
com.amazonaws aws-java-sdk-sts 1.11.313
com.amazonaws aws-java-sdk-support 1.11.313
com.amazonaws aws-java-sdk-swf-libraries 1.11.22
com.amazonaws aws-java-sdk-workspaces 1.11.313
com.amazonaws jmespath-java 1.11.313
com.carrotsearch hppc 0.7.2
com.chuusai shapeless_2.11 2.3.2
com.clearspring.analytics 流 (stream) 2.7.0
com.databricks Rserve 1.8-3
com.databricks dbml-local_2.11 0.5.0-db8-spark2.4
com.databricks dbml-local_2.11-tests 0.5.0-db8-spark2.4
com.databricks jets3t 0.7.1-0
com.databricks.scalapb compilerplugin_2.11 0.4.15-9
com.databricks.scalapb scalapb-runtime_2.11 0.4.15-9
com.esotericsoftware kryo-shaded 4.0.2
com.esotericsoftware minlog 1.3.0
com.fasterxml classmate 1.0.0
com.fasterxml.jackson.core jackson-annotations 2.6.7
com.fasterxml.jackson.core jackson-core 2.6.7
com.fasterxml.jackson.core jackson-databind 2.6.7.1
com.fasterxml.jackson.dataformat jackson-dataformat-cbor 2.6.7
com.fasterxml.jackson.datatype jackson-datatype-joda 2.6.7
com.fasterxml.jackson.module jackson-module-paranamer 2.6.7
com.fasterxml.jackson.module jackson-module-scala_2.11 2.6.7.1
com.github.fommil jniloader 1.1
com.github.fommil.netlib core 1.1.2
com.github.fommil.netlib native_ref-java 1.1
com.github.fommil.netlib native_ref-java-natives 1.1
com.github.fommil.netlib native_system-java 1.1
com.github.fommil.netlib native_system-java-natives 1.1
com.github.fommil.netlib netlib-native_ref-linux-x86_64-natives 1.1
com.github.fommil.netlib netlib-native_system-linux-x86_64-natives 1.1
com.github.luben zstd-jni 1.3.2-2
com.github.rwl jtransforms 2.4.0
com.google.code.findbugs jsr305 2.0.1
com.google.code.gson gson 2.2.4
com.google.guava guava 15.0
com.google.protobuf protobuf-java 2.6.1
com.googlecode.javaewah JavaEWAH 0.3.2
com.h2database h2 1.3.174
com.jcraft jsch 0.1.50
com.jolbox bonecp 0.8.0.RELEASE
com.mchange c3p0 0.9.5.1
com.mchange mchange-commons-java 0.2.10
com.microsoft.azure azure-data-lake-store-sdk 2.2.8
com.microsoft.sqlserver mssql-jdbc 6.2.2.jre8
com.ning compress-lzf 1.0.3
com.sun.mail javax.mail 1.5.2
com.thoughtworks.paranamer paranamer 2.8
com.trueaccord.lenses lenses_2.11 0.3
com.twitter chill-java 0.9.3
com.twitter chill_2.11 0.9.3
com.twitter parquet-hadoop-bundle 1.6.0
com.twitter util-app_2.11 6.23.0
com.twitter util-core_2.11 6.23.0
com.twitter util-jvm_2.11 6.23.0
com.typesafe config 1.2.1
com.typesafe.scala-logging scala-logging-api_2.11 2.1.2
com.typesafe.scala-logging scala-logging-slf4j_2.11 2.1.2
com.univocity univocity-parsers 2.7.3
com.vlkan flatbuffers 1.2.0-3f79e055
com.zaxxer HikariCP 3.1.0
commons-beanutils commons-beanutils 1.7.0
commons-beanutils commons-beanutils-core 1.8.0
commons-cli commons-cli 1.2
commons-codec commons-codec 1.10
commons-collections commons-collections 3.2.2
commons-configuration commons-configuration 1.6
commons-dbcp commons-dbcp 1.4
commons-digester commons-digester 1.8
commons-httpclient commons-httpclient 3.1
commons-io commons-io 2.4
commons-lang commons-lang 2.6
commons-logging commons-logging 1.1.3
commons-net commons-net 3.1
commons-pool commons-pool 1.5.4
info.ganglia.gmetric4j gmetric4j 1.0.7
io.airlift aircompressor 0.10
io.dropwizard.metrics metrics-core 3.1.5
io.dropwizard.metrics metrics-ganglia 3.1.5
io.dropwizard.metrics metrics-graphite 3.1.5
io.dropwizard.metrics metrics-healthchecks 3.1.5
io.dropwizard.metrics metrics-jetty9 3.1.5
io.dropwizard.metrics metrics-json 3.1.5
io.dropwizard.metrics metrics-jvm 3.1.5
io.dropwizard.metrics metrics-log4j 3.1.5
io.dropwizard.metrics metrics-servlets 3.1.5
io.netty netty 3.9.9.Final
io.netty netty-all 4.1.17.Final
io.prometheus simpleclient 0.0.16
io.prometheus simpleclient_common 0.0.16
io.prometheus simpleclient_dropwizard 0.0.16
io.prometheus simpleclient_servlet 0.0.16
io.prometheus.jmx 收集器 0.7
javax.activation activation 1.1.1
javax.annotation javax.annotation-api 1.2
javax.el javax.el-api 2.2.4
javax.jdo jdo-api 3.0.1
javax.servlet javax.servlet-api 3.1.0
javax.servlet.jsp jsp-api 2.1
javax.transaction jta 1.1
javax.validation validation-api 1.1.0.Final
javax.ws.rs javax.ws.rs-api 2.0.1
javax.xml.bind jaxb-api 2.2.2
javax.xml.stream stax-api 1.0-2
javolution javolution 5.5.1
jline jline 2.11
joda-time joda-time 2.9.3
log4j apache-log4j-extras 1.2.17
log4j log4j 1.2.17
net.hydromatic eigenbase-properties 1.1.5
net.razorvine pyrolite 4.13
net.sf.jpam jpam 1.1
net.sf.opencsv opencsv 2.3
net.sf.supercsv super-csv 2.2.0
net.snowflake snowflake-ingest-sdk 0.9.5
net.snowflake snowflake-jdbc 3.6.15
net.snowflake spark-snowflake_2.11 2.4.10-spark_2.4
net.sourceforge.f2j arpack_combined_all 0.1
org.acplt oncrpc 1.0.7
org.antlr ST4 4.0.4
org.antlr antlr-runtime 3.4
org.antlr antlr4-runtime 4.7
org.antlr stringtemplate 3.2.1
org.apache.ant ant 1.9.2
org.apache.ant ant-jsch 1.9.2
org.apache.ant ant-launcher 1.9.2
org.apache.arrow arrow-format 0.10.0
org.apache.arrow arrow-memory 0.10.0
org.apache.arrow arrow-vector 0.10.0
org.apache.avro avro 1.8.2
org.apache.avro avro-ipc 1.8.2
org.apache.avro avro-mapred-hadoop2 1.8.2
org.apache.calcite calcite-avatica 1.2.0-incubating
org.apache.calcite calcite-core 1.2.0-incubating
org.apache.calcite calcite-linq4j 1.2.0-incubating
org.apache.commons commons-compress 1.8.1
org.apache.commons commons-crypto 1.0.0
org.apache.commons commons-lang3 3.5
org.apache.commons commons-math3 3.4.1
org.apache.curator curator-client 2.7.1
org.apache.curator curator-framework 2.7.1
org.apache.curator curator-recipes 2.7.1
org.apache.derby derby 10.12.1.1
org.apache.directory.api api-asn1-api 1.0.0-M20
org.apache.directory.api api-util 1.0.0-M20
org.apache.directory.server apacheds-i18n 2.0.0-M15
org.apache.directory.server apacheds-kerberos-codec 2.0.0-M15
org.apache.hadoop hadoop-annotations 2.7.3
org.apache.hadoop hadoop-auth 2.7.3
org.apache.hadoop hadoop-client 2.7.3
org.apache.hadoop hadoop-common 2.7.3
org.apache.hadoop hadoop-hdfs 2.7.3
org.apache.hadoop hadoop-mapreduce-client-app 2.7.3
org.apache.hadoop hadoop-mapreduce-client-common 2.7.3
org.apache.hadoop hadoop-mapreduce-client-core 2.7.3
org.apache.hadoop hadoop-mapreduce-client-jobclient 2.7.3
org.apache.hadoop hadoop-mapreduce-client-shuffle 2.7.3
org.apache.hadoop hadoop-yarn-api 2.7.3
org.apache.hadoop hadoop-yarn-client 2.7.3
org.apache.hadoop hadoop-yarn-common 2.7.3
org.apache.hadoop hadoop-yarn-server-common 2.7.3
org.apache.htrace htrace-core 3.1.0-incubating
org.apache.httpcomponents httpclient 4.5.4
org.apache.httpcomponents httpcore 4.4.8
org.apache.ivy ivy 2.4.0
org.apache.orc orc-core-nohive 1.5.2
org.apache.orc orc-mapreduce-nohive 1.5.2
org.apache.orc orc-shims 1.5.2
org.apache.parquet parquet-column 1.10.1-databricks3
org.apache.parquet parquet-common 1.10.1-databricks3
org.apache.parquet parquet-encoding 1.10.1-databricks3
org.apache.parquet parquet-format 2.4.0
org.apache.parquet parquet-hadoop 1.10.1-databricks3
org.apache.parquet parquet-jackson 1.10.1-databricks3
org.apache.thrift libfb303 0.9.3
org.apache.thrift libthrift 0.9.3
org.apache.xbean xbean-asm6-shaded 4.8
org.apache.zookeeper zookeeper 3.4.6
org.codehaus.jackson jackson-core-asl 1.9.13
org.codehaus.jackson jackson-jaxrs 1.9.13
org.codehaus.jackson jackson-mapper-asl 1.9.13
org.codehaus.jackson jackson-xc 1.9.13
org.codehaus.janino commons-compiler 3.0.9
org.codehaus.janino janino 3.0.9
org.datanucleus datanucleus-api-jdo 3.2.6
org.datanucleus datanucleus-core 3.2.10
org.datanucleus datanucleus-rdbms 3.2.9
org.eclipse.jetty jetty-client 9.3.20.v20170531
org.eclipse.jetty jetty-continuation 9.3.20.v20170531
org.eclipse.jetty jetty-http 9.3.20.v20170531
org.eclipse.jetty jetty-io 9.3.20.v20170531
org.eclipse.jetty jetty-jndi 9.3.20.v20170531
org.eclipse.jetty jetty-plus 9.3.20.v20170531
org.eclipse.jetty jetty-proxy 9.3.20.v20170531
org.eclipse.jetty jetty-security 9.3.20.v20170531
org.eclipse.jetty jetty-server 9.3.20.v20170531
org.eclipse.jetty jetty-servlet 9.3.20.v20170531
org.eclipse.jetty jetty-servlets 9.3.20.v20170531
org.eclipse.jetty jetty-util 9.3.20.v20170531
org.eclipse.jetty jetty-webapp 9.3.20.v20170531
org.eclipse.jetty jetty-xml 9.3.20.v20170531
org.fusesource.leveldbjni leveldbjni-all 1.8
org.glassfish.hk2 hk2-api 2.4.0-b34
org.glassfish.hk2 hk2-locator 2.4.0-b34
org.glassfish.hk2 hk2-utils 2.4.0-b34
org.glassfish.hk2 osgi-resource-locator 1.0.1
org.glassfish.hk2.external aopalliance-repackaged 2.4.0-b34
org.glassfish.hk2.external javax.inject 2.4.0-b34
org.glassfish.jersey.bundles.repackaged jersey-guava 2.22.2
org.glassfish.jersey.containers jersey-container-servlet 2.22.2
org.glassfish.jersey.containers jersey-container-servlet-core 2.22.2
org.glassfish.jersey.core jersey-client 2.22.2
org.glassfish.jersey.core jersey-common 2.22.2
org.glassfish.jersey.core jersey-server 2.22.2
org.glassfish.jersey.media jersey-media-jaxb 2.22.2
org.hibernate hibernate-validator 5.1.1.Final
org.iq80.snappy snappy 0.2
org.javassist javassist 3.18.1-GA
org.jboss.logging jboss-logging 3.1.3.GA
org.jdbi jdbi 2.63.1
org.joda joda-convert 1.7
org.jodd jodd-core 3.5.2
org.json4s json4s-ast_2.11 3.5.3
org.json4s json4s-core_2.11 3.5.3
org.json4s json4s-jackson_2.11 3.5.3
org.json4s json4s-scalap_2.11 3.5.3
org.lz4 lz4-java 1.4.0
org.mariadb.jdbc mariadb-java-client 2.1.2
org.mockito mockito-all 1.9.5
org.objenesis objenesis 2.5.1
org.postgresql postgresql 42.1.4
org.roaringbitmap RoaringBitmap 0.5.11
org.rocksdb rocksdbjni 5.2.1
org.rosuda.REngine REngine 2.1.0
org.scala-lang scala-compiler_2.11 2.11.8
org.scala-lang scala-library_2.11 2.11.8
org.scala-lang scala-reflect_2.11 2.11.8
org.scala-lang.modules scala-parser-combinators_2.11 1.0.2
org.scala-lang.modules scala-xml_2.11 1.0.5
org.scala-sbt test-interface 1.0
org.scalacheck scalacheck_2.11 1.12.5
org.scalactic scalactic_2.11 3.0.3
org.scalanlp breeze-macros_2.11 0.13.2
org.scalanlp breeze_2.11 0.13.2
org.scalatest scalatest_2.11 3.0.3
org.slf4j jcl-over-slf4j 1.7.16
org.slf4j jul-to-slf4j 1.7.16
org.slf4j slf4j-api 1.7.16
org.slf4j slf4j-log4j12 1.7.16
org.spark-project.hive hive-beeline 1.2.1.spark2
org.spark-project.hive hive-cli 1.2.1.spark2
org.spark-project.hive hive-exec 1.2.1.spark2
org.spark-project.hive hive-jdbc 1.2.1.spark2
org.spark-project.hive hive-metastore 1.2.1.spark2
org.spark-project.spark unused 1.0.0
org.spire-math spire-macros_2.11 0.13.0
org.spire-math spire_2.11 0.13.0
org.springframework spring-core 4.1.4.RELEASE
org.springframework spring-test 4.1.4.RELEASE
org.tukaani xz 1.5
org.typelevel machinist_2.11 0.6.1
org.typelevel macro-compat_2.11 1.1.1
org.xerial sqlite-jdbc 3.8.11.2
org.xerial.snappy snappy-java 1.1.7.1
org.yaml snakeyaml 1.16
oro oro 2.0.8
software.amazon.ion ion-java 1.0.2
stax stax-api 1.0.1
xmlenc xmlenc 0.52