Observação
O acesso a essa página exige autorização. Você pode tentar entrar ou alterar diretórios.
O acesso a essa página exige autorização. Você pode tentar alterar os diretórios.
本文概述了如何注册 Google BigQuery 项目,以及如何在 Microsoft Purview 中对 Google BigQuery 进行身份验证和交互。 有关 Microsoft Purview 的详细信息,请阅读简介文章。
支持的功能
扫描功能
| 元数据提取 | 完全扫描 | 增量扫描 | 范围扫描 |
|---|---|---|---|
| Yes | Yes | 否 | Yes |
扫描 Google BigQuery 源时,Microsoft Purview 支持:
提取技术元数据,包括:
- Projects
- Datasets
- 包括这些列的表
- 视图(含列)
提取表和视图之间的资产关系的静态世系。
设置扫描时,可以选择扫描整个 Google BigQuery 项目,或将扫描范围限定为与给定名称 () 或名称模式 () 匹配的数据集子集。
其他功能
有关 分类、 策略和 实时视图,请参阅 受支持的功能列表。
已知的限制
- 目前,Microsoft Purview 仅支持扫描美国多区域位置的 Google BigQuery 数据集。 如果指定的数据集位于其他位置(例如 us-east1 或 EU),则会看到扫描完成,但不会在 Microsoft Purview 中显示任何资产。
- 从数据源中删除对象后,后续扫描目前不会自动删除 Microsoft Purview 中的相应资产。
Prerequisites
拥有有效订阅的 Azure 帐户。 创建帐户。
有效的 Microsoft Purview 帐户。
需要拥有数据源管理员和数据读取者权限才能在 Microsoft Purview 治理门户中注册和管理源。 有关权限的详细信息,请参阅 Microsoft Purview 中的访问控制。
-
-
若要使用自托管集成运行时:
- 按照文章创建和配置自承载集成运行时。
- 确保在安装了自承载集成运行时的计算机上安装 JDK 11。 在新安装 JDK 后重启计算机,使其生效。
- 确保在运行自承载集成运行时的计算机上安装 Visual C++ 可再发行程序包(Visual Studio 2012 更新 4 或更新版本)。 如果尚未安装此更新,请立即下载。
- 在运行自承载集成运行时的计算机上下载并解压缩 BigQuery JDBC 驱动程序 。 记下用于设置扫描的文件夹路径。
-
若要使用 Kubernetes 支持的自承载集成运行时:
- 按照文章创建和配置 Kubernetes 支持的集成运行时。
- 在运行自承载集成运行时的计算机上下载并解压缩 BigQuery JDBC 驱动程序 。 记下用于设置扫描的文件夹路径。
备注
自承载集成运行时应能够访问该驱动程序。 默认情况下,自承载集成运行时使用本地服务帐户“NT SERVICE\DIAHostService”。 确保它具有驱动程序文件夹的“读取和执行”和“列出文件夹内容”权限。
-
若要使用自托管集成运行时:
扫描所需的权限
用于扫描的 Google BigQuery 服务账号需要在要扫描的项目上同时具有 BigQuery Metadata Viewer 和 BigQuery Job User IAM 角色。 这些权限是必需的,因为 Microsoft Purview 通过读取 Google BigQuery 数据库系统表(例如 INFORMATION_SCHEMA)来提取元数据。 当底层的 Google BigQuery JDBC 驱动程序需要从这些系统表中读取数据时,它会创建一个 BigQuery 作业。
Microsoft Purview 使用 Oauth 2.0 协议访问 Google BigQuery 服务。 按照 创建并运行扫描 部分中的说明设置凭据。
Register
本部分介绍如何使用 Microsoft Purview 治理门户在 Microsoft Purview 中注册 Google BigQuery 项目。
注册步骤
使用以下方法打开 Microsoft Purview 治理门户:
- 直接浏览到 https://web.purview.azure.cn 并选择你的 Microsoft Purview 帐户。
- 打开 Azure 门户,搜索并选择 Microsoft Purview 帐户。 选择 Microsoft Purview 治理门户 按钮。
在左侧导航区域中选择数据地图。
选择“ 注册”。
在“注册源”上,选择“ Google BigQuery ”。 选择“ 继续”。
在“注册源 (Google BigQuery)”页面上,执行以下操作:
输入数据源将在目录中列出的名称。
输入 ProjectID。 这应该是完全限定的项目 ID。 例如,mydomain.com:myProject
从列表中选择一个集合。
选择注册。
扫描
按照以下步骤扫描 Google BigQuery 项目以自动识别资产。 若要大致了解有关扫描的更多信息,请参阅扫描和引入简介。
创建并运行扫描
在“管理中心”中,选择“集成运行时”。 确保已完成自承载集成运行时的设置。 如果未设置,请使用 先决条件中提到的步骤。
导航到“源”。
选择已注册的 BigQuery 项目。
选择+ 新建扫描。
提供以下详细信息:
名称:扫描的名称
通过集成运行时进行连接:选择配置的自承载集成运行时
凭据:配置 BigQuery 凭据时,请确保:
- 选择“ 基本身份验证” 作为“身份验证”方法
- 在“用户名”字段中提供服务帐户的电子邮件 ID。 例如:
xyz\@developer.gserviceaccount.com - 按照以下步骤生成私钥,复制整个 JSON 密钥文件,然后将其存储为密钥保管库机密的值。
若要从 Google 的云平台创建新的私钥,请执行以下作:
- 在导航菜单中,选择“IAM & 管理员” -> “服务帐户” -> 选择项目 ->
- 选择要为其创建密钥的服务帐户的电子邮件地址。
- 选择“ 密钥 ”选项卡。
- 选择 “添加密钥 ”下拉菜单,然后选择“创建新密钥”。
- 选择 JSON 格式。
备注
运行扫描进程时,私钥的内容保存在 VM 上的临时文件中。 扫描成功完成后,将删除此临时文件。 如果扫描失败,系统将继续重试,直到成功。 请确保在运行 SHIR 的 VM 上适当限制访问。
若要详细了解凭据,请参阅 此处的链接。
驱动程序位置:指定计算机中运行自主机集成运行时的 JDBC 驱动程序位置的路径。 例如:
D:\Drivers\GoogleBigQuery。- 对于本地计算机上的自承载集成运行时:
D:\Drivers\GoogleBigQuery。 它是有效 JAR 文件夹位置的路径。 该值必须是有效的绝对文件路径,并且不包含空格。 确保自承载集成运行时可以访问驱动程序;;有关详细信息,请参阅 先决条件部分。 - 对于受 Kubernetes 支持的自承载集成运行时:
./drivers/GoogleBigQuery它是有效 JAR 文件夹位置的路径。 该值必须是有效的相对文件路径。 请参阅文档,使用 外部驱动程序设置扫描 ,以便提前上传驱动程序。
- 对于本地计算机上的自承载集成运行时:
数据集:指定要导入的 BigQuery 数据集的列表。 例如,
dataset1;dataset2。 当列表为空时,将导入所有可用的数据集。 可接受的数据集名称模式可以是静态名称,也可以包含通配符 %。示例:
A%;%B;%C%;D- 以 A 开头或
- 以 B 结尾,或
- 包含 C 或
- 等于 D
不能使用 NOT 和特殊字符。
最大可用内存:VM 上可供扫描进程使用的最大内存 () GB。 这取决于要扫描的 Google BigQuery 项目的大小。
选择“ 测试连接”。
选择 继续。
选择 扫描触发器。 您可以设置计划任务,或仅运行一次扫描。
查看您的扫描结果,然后选择“保存并运行”。
查看扫描和扫描运行情况
若要查看现有扫描,请执行以下操作:
- 转到 Microsoft Purview 门户。 在左窗格中,选择“数据映射”。
- 选择数据源。 可以在“最近使用的扫描”下查看该数据源上的现有扫描列表,或者可以在“扫描”选项卡上查看所有扫描。
- 选择您想查看的扫描结果。 窗格会显示先前的所有扫描运行,以及每次扫描运行的状态和指标。
- 选择运行 ID 来查看 扫描运行详细信息。
管理扫描
若要编辑、取消或删除扫描:
转到 Microsoft Purview 门户。 在左窗格中,选择“数据映射”。
选择数据源。 可以在“最近使用的扫描”下查看该数据源上的现有扫描列表,或者可以在“扫描”选项卡上查看所有扫描。
选择要管理的扫描。 然后你可以执行以下操作:
- 请通过选择“编辑扫描”来进行编辑。
- 通过选择“取消扫描运行”来取消正在进行的扫描。
- 选择删除扫描以删除您的扫描。
备注
- 删除您的扫描文件不会删除从以前的扫描中创建的目录条目。
后续步骤
现在你已注册了数据源,请按照以下指南来了解更多有关 Microsoft Purview 以及你的数据。