快速入门:使用 ARM 模板创建 Azure 数据工厂

适用于: Azure 数据工厂

本快速入门介绍如何使用 Azure 资源管理器模板(ARM 模板)来创建 Azure 数据工厂。 在此数据工厂中创建的管道会将数据从 Azure Blob 存储中的一个文件夹复制到另一个文件夹。 有关如何使用 Azure 数据工厂转换数据的教程,请参阅教程:使用 Spark 转换数据

ARM 模板是定义项目基础结构和配置的 JavaScript 对象表示法 (JSON) 文件。 该模板使用声明性语法,使你可以指明要部署的内容,而不需要编写一系列编程命令来创建内容。

备注

本文不提供数据工厂服务的详细介绍。 有关 Azure 数据工厂服务的介绍,请参阅 Azure 数据工厂简介

如果你的环境满足先决条件,并且你熟悉如何使用 ARM 模板,请选择“部署到 Azure”按钮。 Azure 门户中会打开模板。

“部署到 Azure”

先决条件

Azure 订阅

如果没有 Azure 订阅,可在开始前创建一个试用帐户

创建文件

打开文本编辑器(如记事本),并创建包含以下内容的名为“emp.txt”的文件:

John, Doe
Jane, Doe

将此文件保存在 C:\ADFv2QuickStartPSH 文件夹中。 (如果此文件夹不存在,则创建它。)

审阅模板

本快速入门中使用的模板来自 Azure 快速启动模板

{
    "$schema": "https://schema.management.azure.com/schemas/2019-04-01/deploymentTemplate.json#",
    "contentVersion": "1.0.0.0",
    "parameters": {
        "dataFactoryName": {
            "type": "string",
            "defaultValue": "[concat('datafactory', uniqueString(resourceGroup().id))]",
            "metadata": {
                "description": "Data Factory Name"
            }
        },
        "location": {
            "type": "string",
            "defaultValue": "[resourceGroup().location]",
            "metadata": {
                "description": "Location of the data factory."
            }
        },
        "storageAccountName": {
            "type": "string",
            "defaultValue": "[concat('storage', uniqueString(resourceGroup().id))]",
            "metadata": {
                "description": "Name of the Azure storage account that contains the input/output data."
            }
        },
        "blobContainer": {
            "type": "string",
            "defaultValue": "[concat('blob', uniqueString(resourceGroup().id))]",
            "metadata": {
                "description": "Name of the blob container in the Azure Storage account."
            }
        }
    },
    "variables": {
        "storageAccountId": "[resourceId('Microsoft.Storage/storageAccounts', parameters('storageAccountName'))]",
        "storageLinkedService": "[resourceId('Microsoft.DataFactory/factories/linkedServices', parameters('dataFactoryName'), 'armTemplateStorageLinkedService')]",
        "datasetIn": "[resourceId('Microsoft.DataFactory/factories/datasets', parameters('dataFactoryName'), 'armTemplateTestDatasetIn')]",
        "datasetOut": "[resourceId('Microsoft.DataFactory/factories/datasets', parameters('dataFactoryName'), 'armTemplateTestDatasetOut')]"
    },
    "resources": [
        {
            "type": "Microsoft.Storage/storageAccounts",
            "apiVersion": "2019-06-01",
            "name": "[parameters('storageAccountName')]",
            "location": "[parameters('location')]",
            "sku": {
                "name": "Standard_LRS"
            },
            "kind": "StorageV2",
            "properties": {},
            "resources": [
                {
                    "type": "blobServices/containers",
                    "apiVersion": "2019-06-01",
                    "name": "[concat('default/', parameters('blobContainer'))]",
                    "dependsOn": [
                        "[parameters('storageAccountName')]"
                    ]
                }
            ]
        },
        {
            "type": "Microsoft.DataFactory/factories",
            "name": "[parameters('dataFactoryName')]",
            "apiVersion": "2018-06-01",
            "location": "[parameters('location')]",
            "properties": {},
            "identity": {
                "type": "SystemAssigned"
            },
            "resources": [
                {
                    "type": "Microsoft.DataFactory/factories/linkedServices",
                    "name": "[concat(parameters('dataFactoryName'), '/ArmtemplateStorageLinkedService')]",
                    "apiVersion": "2018-06-01",
                    "location": "[parameters('location')]",
                    "dependsOn": [
                        "[parameters('dataFactoryName')]",
                        "[parameters('storageAccountName')]"
                    ],
                    "properties": {
                        "type": "AzureBlobStorage",
                        "typeProperties": {
                            "connectionString": "[concat('DefaultEndpointsProtocol=https;EndpointSuffix=core.chinacloudapi.cn;AccountName=',parameters('storageAccountName'),';AccountKey=',listKeys(variables('storageAccountId'), '2019-06-01').keys[0].value)]"
                        }
                    }
                },
                {
                    "type": "Microsoft.DataFactory/factories/datasets",
                    "name": "[concat(parameters('dataFactoryName'), '/ArmtemplateTestDatasetIn')]",
                    "apiVersion": "2018-06-01",
                    "location": "[parameters('location')]",
                    "dependsOn": [
                        "[parameters('dataFactoryName')]",
                        "[variables('storageLinkedService')]"
                    ],
                    "properties": {
                        "linkedServiceName": {
                            "referenceName": "ArmtemplateStorageLinkedService",
                            "type": "LinkedServiceReference"
                        },
                        "type": "Binary",
                        "typeProperties": {
                            "location": {
                                "type": "AzureBlobStorageLocation",
                                "container": "[parameters('blobContainer')]",
                                "folderPath": "input",
                                "fileName": "emp.txt"
                            }
                        }
                    }
                },
                {
                    "type": "Microsoft.DataFactory/factories/datasets",
                    "name": "[concat(parameters('dataFactoryName'), '/ArmtemplateTestDatasetOut')]",
                    "apiVersion": "2018-06-01",
                    "location": "[parameters('location')]",
                    "dependsOn": [
                        "[parameters('dataFactoryName')]",
                        "[variables('storageLinkedService')]"
                    ],
                    "properties": {
                        "linkedServiceName": {
                            "referenceName": "ArmtemplateStorageLinkedService",
                            "type": "LinkedServiceReference"
                        },
                        "type": "Binary",
                        "typeProperties": {
                            "location": {
                                "type": "AzureBlobStorageLocation",
                                "container": "[parameters('blobContainer')]",
                                "folderPath": "output"
                            }
                        }
                    }
                },
                {
                    "type": "Microsoft.DataFactory/factories/pipelines",
                    "name": "[concat(parameters('dataFactoryName'), '/ArmtemplateSampleCopyPipeline')]",
                    "apiVersion": "2018-06-01",
                    "location": "[parameters('location')]",
                    "dependsOn": [
                        "[parameters('dataFactoryName')]",
                        "[variables('datasetIn')]",
                        "[variables('datasetOut')]"
                    ],
                    "properties": {
                        "activities": [
                            {
                            "name": "MyCopyActivity",
                            "type": "Copy",
                            "policy": {
                                "timeout": "7.00:00:00",
                                "retry": 0,
                                "retryIntervalInSeconds": 30,
                                "secureOutput": false,
                                "secureInput": false
                            },
                            "typeProperties": {
                                "source": {
                                    "type": "BinarySource",
                                    "storeSettings": {
                                        "type": "AzureBlobStorageReadSettings",
                                        "recursive": true
                                    }
                                },
                                "sink": {
                                    "type": "BinarySink",
                                    "storeSettings": {
                                        "type": "AzureBlobStorageWriteSettings"
                                    }
                                },
                                "enableStaging": false
                            },
                            "inputs": [{
                                "referenceName": "ArmtemplateTestDatasetIn",
                                "type": "DatasetReference",
                                "parameters": {

                                    }
                                }
                            ],
                            "outputs": [{
                                "referenceName": "ArmtemplateTestDatasetOut",
                                "type": "DatasetReference",
                                "parameters": {}
                                    }
                                ]
                            }
                        ]
                    }
                }
            ]
        }
    ]
}

该模板中定义了 Azure 资源:

可以在快速入门模板库中找到更多 Azure 数据工厂模板示例。

部署模板

  1. 选择下图登录到 Azure 并打开一个模板。 此模板创建 Azure 数据工厂帐户、存储帐户和 blob 容器。

    部署到 Azure

  2. 选择或输入以下值。

    部署 ADF ARM 模板

    除非另有指定,否则请使用默认值创建 Azure 数据工厂资源:

    • 订阅:选择 Azure 订阅。
    • 资源组:选择“新建”,输入资源组的唯一名称,然后选择“确定”。
    • 区域:选择一个位置。 例如“中国东部 2”。
    • 数据工厂名称:使用默认值。
    • 位置:使用默认值。
    • 存储帐户名称:使用默认值。
    • Blob 容器:使用默认值。

查看已部署的资源

  1. 选择“转到资源组”。

    资源组

  2. 验证是否已创建 Azure 数据工厂。

    1. Azure 数据工厂名称的格式为 - datafactory<uniqueid>。

    数据工厂示例

  3. 验证是否已创建存储帐户。

    1. 存储帐户名称的格式为 - storage<uniqueid>。

    存储帐户

  4. 选择创建的存储帐户,并选择“容器”。

    1. 在“容器”页上,选择创建的 blob 容器。
      1. blob 容器名称的格式为 - blob<uniqueid>。

    blob 容器

上传文件

  1. 在“容器”页上,选择“上传”。

  2. 在右侧窗口,选择“文件”框,然后浏览到先前创建的“emp.txt”文件并进行选择。

  3. 展开“高级”标题。

  4. 在“上传到文件夹”框中,输入“输入”。

  5. 选择“上传”按钮。 应该会在列表中看到 emp.txt 文件和上传状态。

  6. 选择“关闭”图标 (X) 以关闭“上传 Blob”页面 。

    将文件上传到输入文件夹

使容器页保持打开状态,因为你可以使用它在快速入门结束时验证输出。

启动触发器

  1. 导航到“数据工厂”页,选择创建的数据工厂。

  2. 选择“创建者和监视器”磁贴。

    创建者和监视器

  3. 选择“创作”选项卡

  4. 选择创建的管道 - ArmtemplateSampleCopyPipeline。

    ARM 模板管道

  5. 选择“添加触发器” > “立即触发器”。

    触发器

  6. 在“管道运行”下的右窗格中,选择“确定”。

监视管道

  1. 选择“监视”选项卡

  2. 此时会看到与管道运行相关联的活动运行。 在本快速入门中,管道只有一个活动,其类型为:“复制”。 因此会看到该活动运行。

    成功运行

验证输出文件

该管道自动在 blob 容器中创建一个输出文件夹。 然后将 emp.txt 文件从 input 文件夹复制到 output 文件夹。

  1. 在 Azure 门户的“容器”页中选择“刷新”,以查看输出文件夹。

  2. 在文件夹列表中,选择“output”。

  3. 确认 emp.txt 已复制到 output 文件夹。

    输出

清理资源

可以通过两种方式清理在快速入门中创建的资源。 可以删除 Azure 资源组,其中包括资源组中的所有资源。 若要使其他资源保持原封不动,请仅删除在此教程中创建的数据工厂。

删除资源组时会删除所有资源,包括其中的数据工厂。 运行以下命令可以删除整个资源组:

Remove-AzResourceGroup -ResourceGroupName $resourcegroupname

如果只需删除数据工厂,而不是整个资源组,请运行以下命令:

Remove-AzDataFactoryV2 -Name $dataFactoryName -ResourceGroupName $resourceGroupName

后续步骤

在本快速入门中,你使用 ARM 模板创建了 Azure 数据工厂工作区,并验证了部署。 若要详细了解 Azure 数据工厂和 Azure 资源管理器,请继续阅读以下文章。