使用 Azure 数据工厂从 Hive 复制和转换数据
适用于: Azure 数据工厂
Azure Synapse Analytics
提示
试用 Microsoft Fabric 中的数据工厂,这是一种适用于企业的一站式分析解决方案。 Microsoft Fabric 涵盖从数据移动到数据科学、实时分析、商业智能和报告的所有内容。 了解如何免费开始新的试用!
本文概述如何使用 Azure 数据工厂或 Synapse Analytics 管道中的复制活动从 Hive 复制数据。 它是基于概述复制活动总体的复制活动概述一文。
支持的功能
此 Hive 连接器支持以下功能:
支持的功能 | IR |
---|---|
复制活动(源/-) | ① ② |
映射数据流(源/-) | ① |
Lookup 活动 | ① ② |
① Azure 集成运行时 ② 自承载集成运行时
有关复制活动支持作为源/接收器的数据存储列表,请参阅支持的数据存储表。
该服务提供内置的驱动程序用于启用连接,因此使用此连接器无需手动安装任何驱动程序。
先决条件
如果数据存储位于本地网络、Azure 虚拟网络或 Amazon Virtual Private Cloud 内部,则需要配置自承载集成运行时才能连接到该数据存储。
如果数据存储是托管的云数据服务,则可以使用 Azure Integration Runtime。 如果访问范围限制为防火墙规则中允许的 IP,你可以选择将 Azure Integration Runtime IP 添加到允许列表。
此外,还可以使用 Azure 数据工厂中的托管虚拟网络集成运行时功能访问本地网络,而无需安装和配置自承载集成运行时。
要详细了解网络安全机制和数据工厂支持的选项,请参阅数据访问策略。
入门
若要使用管道执行复制活动,可以使用以下工具或 SDK 之一:
使用 UI 创建一个到 Hive 的链接服务
使用以下步骤在 Azure 门户 UI 中创建一个到 Hive 的链接服务。
浏览到 Azure 数据工厂或 Synapse 工作区中的“管理”选项卡并选择“链接服务”,然后单击“新建”:
搜索 Hive 并选择 Hive 连接器。
配置服务详细信息、测试连接并创建新的链接服务。
连接器配置详细信息
对于特定于 Hive 连接器的数据工厂实体,以下部分提供有关用于定义这些实体的属性的详细信息。
链接服务属性
Hive 链接的服务支持以下属性:
属性 | 描述 | 必需 |
---|---|---|
type | type 属性必须设置为:Hive | 是 |
host | Hive 服务器的 IP 地址或主机名;对于多台主机,将以“;”分隔(仅限启用了 serviceDiscoveryMode 时)。 | 是 |
port | Hive 服务器用来侦听客户端连接的 TCP 端口。 如果连接到 Azure HDInsight,请指定端口 443。 | 是 |
serverType | Hive 服务器的类型。 允许值包括:HiveServer1、HiveServer2、HiveThriftServer |
否 |
thriftTransportProtocol | Thrift 层中要使用的传输协议。 允许值包括:二进制、SASL、HTTP |
否 |
authenticationType | 用于访问 Hive 服务器的身份验证方法。 允许值包括:Anonymous、Username、UsernameAndPassword、WindowsAzureHDInsightService 。 目前不支持 Kerberos 身份验证。 |
是 |
serviceDiscoveryMode | true 指示使用 ZooKeeper 服务,false 指示不使用。 | 否 |
zooKeeperNameSpace | ZooKeeper 上要将 Hive Server 2 节点添加到其下的命名空间。 | 否 |
useNativeQuery | 指定驱动程序是使用本机 HiveQL 查询,还是将其转换为 HiveQL 中的等效形式。 | 否 |
username | 用于访问 Hive 服务器的用户名。 | 否 |
password | 用户所对应的密码。 将此字段标记为 SecureString 以安全地存储它,或引用 Azure Key Vault 中存储的机密。 | 否 |
httpPath | 对应于 Hive 服务器的部分 URL。 | 否 |
enableSsl | 指定是否使用 TLS 加密到服务器的连接。 默认值为 false。 | 否 |
trustedCertPath | 包含受信任 CA 证书(通过 TLS 进行连接时用来验证服务器)的 .pem 文件的完整路径。 只有在自承载 IR 上使用 TLS 时才能设置此属性。 默认值是随 IR 一起安装的 cacerts.pem 文件。 | 否 |
useSystemTrustStore | 指定是使用系统信任存储中的 CA 证书还是使用指定 PEM 文件中的 CA 证书。 默认值是 false。 | 否 |
allowHostNameCNMismatch | 指定通过 TLS 进行连接时是否要求 CA 颁发的 TLS/SSL 证书名称与服务器的主机名相匹配。 默认值为 false。 | 否 |
allowSelfSignedServerCert | 指定是否允许来自服务器的自签名证书。 默认值是 false。 | 否 |
connectVia | 用于连接到数据存储的集成运行时。 在先决条件部分了解更多信息。 如果未指定,则使用默认 Azure Integration Runtime。 | 否 |
storageReference | 对映射数据流中用于暂存数据的存储帐户的链接服务的引用。 仅当在映射数据流中使用 Hive 链接服务时,才需要此项 | 否 |
示例:
{
"name": "HiveLinkedService",
"properties": {
"type": "Hive",
"typeProperties": {
"host" : "<cluster>.azurehdinsight.cn",
"port" : "<port>",
"authenticationType" : "WindowsAzureHDInsightService",
"username" : "<username>",
"password": {
"type": "SecureString",
"value": "<password>"
}
}
}
}
数据集属性
有关可用于定义数据集的各部分和属性的完整列表,请参阅数据集一文。 本部分提供了 Hive 数据集支持的属性列表。
要从 Hive 复制数据,请将数据集的 type 属性设置为 HiveObject。 支持以下属性:
属性 | 描述 | 必需 |
---|---|---|
type | 数据集的 type 属性必须设置为:HiveObject | 是 |
schema | 架构的名称。 | 否(如果指定了活动源中的“query”) |
表 | 表的名称。 | 否(如果指定了活动源中的“query”) |
tableName | 包含架构部分的表的名称。 支持此属性是为了向后兼容。 对于新的工作负荷,请使用 schema 和 table 。 |
否(如果指定了活动源中的“query”) |
示例
{
"name": "HiveDataset",
"properties": {
"type": "HiveObject",
"typeProperties": {},
"schema": [],
"linkedServiceName": {
"referenceName": "<Hive linked service name>",
"type": "LinkedServiceReference"
}
}
}
复制活动属性
有关可用于定义活动的各部分和属性的完整列表,请参阅管道一文。 本部分提供了 Hive 源支持的属性列表。
HiveSource 作为源
要从 Hive 复制数据,请将复制活动中的源类型设置为 HiveSource。 复制活动source部分支持以下属性:
属性 | 描述 | 必需 |
---|---|---|
type | 复制活动 source 的 type 属性必须设置为:HiveSource | 是 |
query | 使用自定义 SQL 查询读取数据。 例如:"SELECT * FROM MyTable" 。 |
否(如果指定了数据集中的“tableName”) |
示例:
"activities":[
{
"name": "CopyFromHive",
"type": "Copy",
"inputs": [
{
"referenceName": "<Hive input dataset name>",
"type": "DatasetReference"
}
],
"outputs": [
{
"referenceName": "<output dataset name>",
"type": "DatasetReference"
}
],
"typeProperties": {
"source": {
"type": "HiveSource",
"query": "SELECT * FROM MyTable"
},
"sink": {
"type": "<sink type>"
}
}
}
]
映射数据流属性
支持将 hive 连接器用作映射数据流中的内联数据集源。 使用查询进行读取,或直接从 HDInsight 中的 Hive 表进行读取。 在转换为数据流的一部分之前,Hive 数据作为 parquet 文件暂存在存储帐户中。
源属性
下表列出了 hive 源支持的属性。 你可以在“源选项”选项卡中编辑这些属性。
名称 | 说明 | 必需 | 允许的值 | 数据流脚本属性 |
---|---|---|---|---|
存储 | 存储必须是 hive |
是 | hive |
store |
格式 | 是从表中还是从查询中读取 | 是 | table 或 query |
format |
架构名称 | 如果从表中读取,则为源表的架构 | 如果格式为 table ,则此项是必需的 |
字符串 | schemaName |
表名 | 如果从表中读取,则为表名 | 如果格式为 table ,则此项是必需的 |
字符串 | tableName |
查询 | 如果格式为 query ,则为 Hive 链接服务上的源查询 |
如果格式为 query ,则此项是必需的 |
字符串 | query |
暂存 | 将始终暂存 Hive 表。 | 是 | true |
staged |
存储容器 | 从 Hive 中读取或写入到 Hive 之前用于暂存数据的存储容器。 Hive 群集必须有权访问此容器。 | 是 | 字符串 | storageContainer |
临时数据库 | 在链接服务中指定的用户帐户有权访问的架构/数据库。 它用于在暂存过程中创建外部表,在之后将被删除 | 否 | true 或 false |
stagingDatabaseName |
预处理 SQL 脚本 | 在读取数据之前要在 Hive 表上运行的 SQL 代码 | 否 | 字符串 | preSQLs |
源示例
下面是 Hive 源配置的示例:
这些设置将转换为以下数据流脚本:
source(
allowSchemaDrift: true,
validateSchema: false,
ignoreNoFilesFound: false,
format: 'table',
store: 'hive',
schemaName: 'default',
tableName: 'hivesampletable',
staged: true,
storageContainer: 'khive',
storageFolderPath: '',
stagingDatabaseName: 'default') ~> hivesource
已知限制
- 不支持将复杂类型(例如数组、映射、结构和联合)用于读取。
- Hive 连接器仅支持 4.0 或更高版本的 Azure HDInsight 中的 Hive 表 (Apache Hive 3.1.0)
- 默认情况下,Hive 驱动程序在接收器中提供“tableName.columnName”。 如果不希望在列名中看到表名,则可以通过两种方法来解决此问题。 a. 检查 Hive 服务器端上的设置“hive.resultset.use.unique.column.names”并将其设置为 false。 b. 使用列映射重命名列名。
查找活动属性
若要了解有关属性的详细信息,请查看 Lookup 活动。
相关内容
有关复制活动支持作为源和接收器的数据存储的列表,请参阅支持的数据存储。