使用 Azure 数据工厂或 Synapse Analytics 从 Spark 复制数据

适用于：Azure 数据工厂 Azure Synapse Analytics

本文概述了如何在 Azure 数据工厂或 Synapse Analytics 管道中使用复制活动来从 Spark 复制数据。 它是基于概述复制活动总体的复制活动概述一文。

支持的功能

此 Spark 连接器支持以下功能：

① Azure 集成运行时 ② 自承载集成运行时

有关复制活动支持将其作为源/接收器的数据存储列表，请参阅支持的数据存储表。

该服务提供内置的驱动程序用于启用连接，因此使用此连接器无需手动安装任何驱动程序。

先决条件

如果数据存储位于本地网络、Azure 虚拟网络或 Amazon Virtual Private Cloud 内部，则需要配置自承载集成运行时才能连接到该数据存储。

如果数据存储是托管的云数据服务，则可以使用 Azure Integration Runtime。 如果访问范围限制为防火墙规则中允许的 IP，你可以选择将 Azure Integration Runtime IP 添加到允许列表。

此外，还可以使用 Azure 数据工厂中的托管虚拟网络集成运行时功能访问本地网络，而无需安装和配置自承载集成运行时。

要详细了解网络安全机制和数据工厂支持的选项，请参阅数据访问策略。

入门

若要使用管道执行复制活动，可以使用以下工具或 SDK 之一：

• 复制数据工具
• Azure 门户
• .NET SDK
• Python SDK
• Azure PowerShell
• REST API
• Azure 资源管理器模板

使用 UI 创建一个到 Spark 的链接服务

使用以下步骤在 Azure 门户 UI 中创建一个到 Spark 的链接服务。

1. 浏览到 Azure 数据工厂或 Synapse 工作区中的“管理”选项卡并选择“链接服务”，然后单击“新建”：

   • Azure 数据工厂
   • Azure Synapse

   

2. 搜索 Spark 并选择 Spark 连接器。

   

3. 配置服务详细信息、测试连接并创建新的链接服务。

   

连接器配置详细信息

对于特定于 Spark 连接器的数据工厂实体，以下部分提供有关用于定义这些实体的属性的详细信息。

链接服务属性

Spark 连接器现在支持版本 2.0。 请参阅此部分将 Spark 连接器版本从版本 1.0 升级。 关于属性详情，请参阅对应部分。

• 版本 2.0
• 版本 1.0

版本 2.0

Spark 链接服务版本 2.0 支持以下属性：

示例：

{
    "name": "SparkLinkedService",
    "properties": {
        "type": "Spark",
        "version": "2.0",
        "typeProperties": {
            "host": "<cluster>.azurehdinsight.cn",
            "port": "<port>",
            "authenticationType": "WindowsAzureHDInsightService",
            "username": "<username>",
            "password": {
                "type": "SecureString",
                "value": "<password>"
            }
        }
    }
}

版本 1.0

Spark 链接服务版本 1.0 支持以下属性：

示例：

{
    "name": "SparkLinkedService",
    "properties": {
        "type": "Spark",
        "typeProperties": {
            "host" : "<cluster>.azurehdinsight.cn",
            "port": "<port>",
            "authenticationType": "WindowsAzureHDInsightService",
            "username": "<username>",
            "password": {
                "type": "SecureString",
                "value": "<password>"
            }
        }
    }
}

数据集属性

有关可用于定义数据集的各部分和属性的完整列表，请参阅数据集一文。 本部分提供 Spark 数据集支持的属性列表。

要从 Spark 复制数据，请将数据集的 type 属性设置为“SparkObject” 。 支持以下属性：

示例

{
    "name": "SparkDataset",
    "properties": {
        "type": "SparkObject",
        "typeProperties": {},
        "schema": [],
        "linkedServiceName": {
            "referenceName": "<Spark linked service name>",
            "type": "LinkedServiceReference"
        }
    }
}

复制活动属性

有关可用于定义活动的各部分和属性的完整列表，请参阅管道一文。 本部分提供 Spark 数据源支持的属性列表。

Spark 作为源

要从 Spark 复制数据，请将复制活动中的源类型设置为“SparkSource” 。 复制活动source部分支持以下属性：

示例：

"activities":[
    {
        "name": "CopyFromSpark",
        "type": "Copy",
        "inputs": [
            {
                "referenceName": "<Spark input dataset name>",
                "type": "DatasetReference"
            }
        ],
        "outputs": [
            {
                "referenceName": "<output dataset name>",
                "type": "DatasetReference"
            }
        ],
        "typeProperties": {
            "source": {
                "type": "SparkSource",
                "query": "SELECT * FROM MyTable"
            },
            "sink": {
                "type": "<sink type>"
            }
        }
    }
]

Spark 的数据类型映射

当你从/向 Spark 复制数据时，服务中会使用以下临时数据类型映射。 若要了解复制活动如何将源架构和数据类型映射到接收器，请参阅架构和数据类型映射。

查找活动属性

若要了解有关属性的详细信息，请查看 Lookup 活动。

Spark 连接器生命周期和升级

下表显示了不同版本的 Spark 连接器的发布阶段和更改日志：

将 Spark 连接器从版本 1.0 升级到版本 2.0

1. 在“编辑链接服务”页中，选择 2.0 以获取版本，并通过引用链接服务属性版本 2.0 配置链接服务。

2. Spark 链接服务版本 2.0 的数据类型映射不同于版本 1.0 的数据类型映射。 若要了解最新的数据类型映射，请参阅 Spark 的数据类型映射。

相关内容

有关复制活动中作为来源和接收器的支持数据存储列表，请参阅支持的数据存储。