Azure 数据工厂和 Synapse Analytics 中的 ORC 格式

  • 项目

适用于： Azure 数据工厂 Azure Synapse Analytics

提示

试用 Microsoft Fabric 中的数据工厂，这是一种适用于企业的一站式分析解决方案。 Microsoft Fabric 涵盖从数据移动到数据科学、实时分析、商业智能和报告的所有内容。 了解如何免费开始新的试用！

如果要分析 ORC 文件或以 ORC 格式写入数据，请遵循本文中的说明。

以下连接器支持 ORC 格式：Amazon S3、Amazon S3 兼容存储、Azure Blob、Azure Data Lake Storage Gen2、Azure 文件存储、文件系统、FTP、Google 云存储、HDFS、HTTP、Oracle 云存储和 SFTP。

数据集属性

有关可用于定义数据集的各部分和属性的完整列表，请参阅数据集一文。 本部分提供 ORC 数据集支持的属性列表。

属性 描述 必需
type 数据集的 type 属性必须设置为 Orc。 是
location 文件的位置设置。 每个基于文件的连接器在 location 下都有其自己的位置类型和支持的属性。 请在连接器文章 -> 数据集属性部分中查看详细信息。 是
compressionCodec 写入到 ORC 文件时要使用的压缩编解码器。 从 ORC 文件中读取时，数据工厂会基于文件元数据自动确定压缩编解码器。
支持的类型为“none”、“zlib”、“snappy”（默认值）和“lzo”。 请注意，复制活动目前在读取/写入 ORC 文件时不支持 LZO。		 否

下面是 Azure Blob 存储上的 ORC 数据集的示例：

{
    "name": "OrcDataset",
    "properties": {
        "type": "Orc",
        "linkedServiceName": {
            "referenceName": "<Azure Blob Storage linked service name>",
            "type": "LinkedServiceReference"
        },
        "schema": [ < physical schema, optional, retrievable during authoring > ],
        "typeProperties": {
            "location": {
                "type": "AzureBlobStorageLocation",
                "container": "containername",
                "folderPath": "folder/subfolder",
            }
        }
    }
}

请注意以下几点：

  • 复杂数据类型（如 MAP、LIST、STRUCT）目前仅在数据流中受支持，而在复制活动中不受支持。 若要在数据流中使用复杂类型，请不要在数据集中导入文件架构，而是在数据集中将架构留空。 然后，在源转换中导入投影。
  • 不支持列名称中的空格。

复制活动属性

有关可用于定义活动的各部分和属性的完整列表，请参阅管道一文。 本部分提供 ORC 源和接收器支持的属性列表。

以 ORC 作为源

复制活动的 *source* 节支持以下属性。

属性 描述 必需
type 复制活动源的 type 属性必须设置为 OrcSource 。 是
storeSettings 有关如何从数据存储读取数据的一组属性。 每个基于文件的连接器在 storeSettings 下都有其自己支持的读取设置。 请在连接器文章 -> 复制活动属性部分中查看详细信息。 否

以 ORC 作为接收器

复制活动的 *sink* 节支持以下属性。

属性 描述 必需
type 复制活动接收器的 type 属性必须设置为 OrcSink。 是
formatSettings 一组属性。 请参阅下面的“ORC 写入设置”表。 否
storeSettings 有关如何将数据写入到数据存储的一组属性。 每个基于文件的连接器在 storeSettings 下都有其自身支持的写入设置。 请在连接器文章 -> 复制活动属性部分中查看详细信息。 否

formatSettings 下支持的 ORC 写入设置：

属性 描述 必需
type formatSettings 的类型必须设置为 OrcWriteSettings。 是
maxRowsPerFile 在将数据写入到文件夹时，可选择写入多个文件，并指定每个文件的最大行数。 否
fileNamePrefix 配置 maxRowsPerFile 时适用。
在将数据写入多个文件时，指定文件名前缀，生成的模式为 <fileNamePrefix>_00000.<fileExtension>。 如果未指定，将自动生成文件名前缀。 如果源是基于文件的存储或已启用分区选项的数据存储，则此属性不适用。		 否

映射数据流属性

在映射数据流时，可以在以下数据存储中读取和写入 ORC 格式：Azure Blob 存储、Azure Data Lake Storage Gen2 和 SFTP，并且可以在 Amazon S3 中读取 ORC 格式。

可以使用 ORC 数据集或使用内联数据集来指向 ORC 文件。

源属性

下表列出了 ORC 源支持的属性。 可以在“源选项”选项卡中编辑这些属性。

在使用内联数据集时，你将看到其他文件设置，这些设置与数据集属性部分中描述的属性相同。

名称 说明 必需 允许的值 数据流脚本属性
格式 格式必须为 orc 是 orc format
通配符路径 将处理与通配符路径匹配的所有文件。 重写数据集中设置的文件夹和文件路径。 否 String[] wildcardPaths
分区根路径 对于已分区的文件数据，可以输入分区根路径，以便将已分区的文件夹读取为列 否 字符串 partitionRootPath
文件列表 源是否指向某个列出待处理文件的文本文件 否 true 或 false fileList
用于存储文件名的列 使用源文件名称和路径创建新列 否 字符串 rowUrlColumn
完成后 在处理后删除或移动文件。 文件路径从容器根开始 否 删除：true 或 false
Move：[<from>, <to>]		 purgeFiles
moveFiles
按上次修改时间筛选 选择根据上次更改时间筛选文件 否 时间戳 modifiedAfter
modifiedBefore
允许找不到文件 如果为 true，则找不到文件时不会引发错误 否 true 或 false ignoreNoFilesFound

源示例

ORC 源配置的关联数据流脚本是：

source(allowSchemaDrift: true,
    validateSchema: false,
    rowUrlColumn: 'fileName',
    format: 'orc') ~> OrcSource

接收器属性

下表列出了 ORC 接收器支持的属性。 你可以在“设置”选项卡中编辑这些属性。

在使用内联数据集时，你将看到其他文件设置，这些设置与数据集属性部分中描述的属性相同。

名称 说明 必需 允许的值 数据流脚本属性
格式 格式必须为 orc 是 orc format
清除文件夹 如果在写入前目标文件夹已被清除 否 true 或 false truncate
文件名选项 写入的数据的命名格式。 默认情况下，每个分区有一个 part-#####-tid-<guid> 格式的文件 否 模式：字符串
每分区：String[]
作为列中的数据：字符串
输出到单个文件：['<fileName>']		 filePattern
partitionFileNames
rowUrlColumn
partitionFileNames

接收器示例

ORC 接收器配置的关联数据流脚本是：

OrcSource sink(
    format: 'orc',
    filePattern:'output[n].orc',
    truncate: true,
    allowSchemaDrift: true,
    validateSchema: false,
    skipDuplicateMapInputs: true,
    skipDuplicateMapOutputs: true) ~> OrcSink

使用自承载集成运行时

重要

对于由自承载集成运行时（例如，本地与云数据存储之间）提供支持的复制，如果不是按原样复制 ORC 文件，则需要在 IR 计算机上安装 64 位 JRE 8（Java 运行时环境）或 OpenJDK 和 Microsoft Visual C++ 2010 Redistributable Package。 请查看以下段落以了解更多详细信息。

对于使用 ORC 文件序列化/反序列化在自承载集成运行时上运行的复制，该服务将通过首先检查 JRE 的注册表项 (SOFTWARE\JavaSoft\Java Runtime Environment\{Current Version}\JavaHome) 来查找 Java 运行时，如果未找到，则会检查系统变量 JAVA_HOME 来查找 OpenJDK。

  • 若要使用 JRE：64 位 IR 需要 64 位 JRE。 可在此处找到它。
  • 若要使用 OpenJDK：从 IR 版本 3.13 开始受支持。 将 jvm.dll 以及所有其他必需的 OpenJDK 程序集打包到自承载 IR 计算机中，并相应地设置系统环境变量 JAVA_HOME。
  • 若要安装 Visual C++ 2010 Redistributable Package：安装自承载 IR 时未安装 Visual C++ 2010 Redistributable Package。 可在此处找到它。

提示

如果使用自承载集成运行时将数据复制为 ORC 格式或从 ORC 格式复制数据，并遇到“调用 java 时发生错误，消息: java.lang.OutOfMemoryError:Java 堆空间”的错误，则可以在托管自承载 IR 的计算机中添加环境变量 _JAVA_OPTIONS，以便调整 JVM 的最小/最大堆大小，以支持此类复制，然后重新运行管道。

Set JVM heap size on Self-hosted IR

示例：将变量 _JAVA_OPTIONS 的值设置为 -Xms256m -Xmx16g。 标志 Xms 指定 Java 虚拟机 (JVM) 的初始内存分配池，而 Xmx 指定最大内存分配池。 这意味着 JVM 初始内存为 Xms，并且能够使用的最多内存为 Xmx。 默认情况下，该服务最少使用 64 MB 且最多使用 1G。

相关内容