Azure SQL 数据库弹性查询概述(预览版)

适用于:Azure SQL 数据库

使用弹性查询功能(处于预览状态)可以跨 Azure SQL 数据库中的多个数据库运行 Transact-SQL 查询。 它允许执行跨数据库查询以访问远程表,以及连接 Microsoft 和第三方工具(Excel、Power BI、Tableau 等)以跨多个数据库的数据层进行查询。 使用此功能,可以将查询横向扩展到较大数据层,并直观显示商业智能 (BI) 报表中的结果。

为什么要使用弹性查询?

Azure SQL 数据库

跨 Azure SQL 数据库中的数据库进行查询的操作完全在 T-SQL 中执行。 这允许对远程数据库进行只读查询,并为当前的 SQL Server 客户提供将使用由三部分和四部分组成的名称或链接服务器的应用程序迁移到 SQL 数据库的选项。

在所有服务层级上可用

Azure SQL 数据库的所有服务层级都支持弹性查询。 有关较低服务层级的性能限制,请参阅下面有关预览版限制的部分。

将参数推送到远程数据库

弹性查询现在可以将 SQL 参数推送到远程数据库执行。

存储过程执行

使用 sp_execute _remote 执行远程存储过程调用或远程函数。

灵活性

使用弹性查询的外部表可以引用具有不同架构或表名的远程表。

弹性查询方案

目标是便于实现多个数据库参与生成单个总体结果中的行的查询方案。 查询可以由用户或应用程序直接编写,也可以通过与数据库连接的工具间接编写。 这在使用商业 BI 或数据集成工具或任何不能更改的应用程序创建报表时特别有用。 使用弹性查询,可以利用 Excel、Power BI、Tableau 或 Cognos 等工具中熟悉的 SQL Server 连接体验跨多个数据库进行查询。 弹性查询可让你通过 SQL Server Management Studio 或 Visual Studio 发出的查询轻松访问整个数据库集合,并便于实现从实体框架或其他 ORM 环境跨数据库查询。 图 1 显示了这样一个方案:其中使用弹性数据库客户端库的现有云应用程序在扩大的数据层的基础上构建,并且弹性查询用于跨数据库报告。

图 1 在扩大的数据层上使用的弹性查询

Elastic query used on scaled-out data tier

弹性查询的客户方案的特征包括以下拓扑:

  • 垂直分区 - 跨数据库查询(拓扑 1):数据在数据层中的多个数据库之间垂直分区。 通常,不同的表集驻留在不同的数据库上。 这意味着不同数据库上的架构是不同的。 例如,清单的所有表都位于一个数据库上,而与会计相关的所有表都位于第二个数据库上。 采用此拓扑的常见使用案例需要使用一个查询跨多个数据库中的表进行查询或编译报表。
  • 水平分区 - 分片(拓扑 2):将数据进行水平分区以将行分布到扩大的数据层上。 使用此方法时,所有参与数据库中的架构是相同的。 此方法也称为“分片”。 可以使用 (1) 弹性数据库客户端库或 (2) 自我分片来执行和管理分片。 可使用弹性查询跨多个分片查询或编译报表。 分片通常是弹性池中的数据库。 可将弹性查询视为一次性查询弹性池的所有数据库的高效方式,前提是数据库共享通用架构。

注意

弹性查询最适用于可以在外部源端执行大多数处理(筛选、聚合)的报告方案。 它不适用于从远程数据库传输大量数据的 ETL 操作。 对于使用更复杂查询的大量报表工作负荷或数据仓库方案,还可以考虑使用 Azure Synapse Analytics

垂直分区 - 跨数据库查询

若要开始编写代码,请参阅跨数据库查询(垂直分区)入门

弹性查询可用于使位于 SQL 数据库的数据库中的数据供 SQL 数据库中的其他数据库使用。 这允许从一个数据库的查询引用 SQL 数据库中任何其他远程数据库中的表。 第一步是定义每个远程数据库的外部数据源。 外部数据源在要从中获取对远程数据库中的表的访问权限的本地数据库中定义。 在远程数据库上不必进行任何更改。 对于不同数据库具有不同架构的典型垂直分区方案,可以使用弹性查询来实现常见使用案例(例如,访问引用数据和跨数据库查询)。

重要

必须拥有 ALTER ANY EXTERNAL DATA SOURCE 权限。 此权限包含在 ALTER DATABASE 权限中。 引用基础数据源需要 ALTER ANY EXTERNAL DATA SOURCE 权限。

引用数据:拓扑用于引用数据管理。 在下图中,包含引用数据的两个表(T1 和 T2)保存在专用数据库中。 使用弹性查询,现在可以从其他数据库远程访问表 T1 和 T2,如图中所示。 如果引用表较小或对引用表的远程查询包含选择性谓词,请使用拓扑 1。

图 2 垂直分区 - 使用弹性查询来查询引用数据

Vertical partitioning - Using elastic query to query reference data

跨数据库查询:弹性查询支持需要在 SQL 数据库中跨多个数据库进行查询的用例。 图 3 显示了四个不同的数据库:CRM、库存、人力资源和产品。 在其中一个数据库中执行的查询还需要访问一个或所有其他数据库。 使用弹性查询时,可以通过在这四个数据库的每个数据库上运行几个简单的 DDL 语句来为此案例配置数据库。 经过此一次性配置后,对远程表的访问就像从 T-SQL 查询或 BI 工具引用本地表一样简单。 如果远程查询不返回大型结果,建议使用此方法。

图 3 垂直分区 - 使用弹性查询来跨多个数据库查询

Vertical partitioning - Using elastic query to query across various databases

通过以下步骤,为垂直分区方案(需要访问 SQL 数据库中具有相同架构的远程数据库中的表)配置弹性数据库查询:

运行 DDL 语句后,可以访问远程表“mytable”,就像它是本地表一样。 Azure SQL 数据库会自动打开与远程数据库的连接,处理远程数据库上的请求并返回结果。

水平分区 - 分片

使用弹性查询对分片(即,水平分区)的数据层执行报表任务需要弹性数据库分片映射来表示数据层的数据库。 通常情况下,仅在此方案中使用单个分片映射,并且具有弹性查询功能的专用数据库(头节点)将作为报表查询的入口点。 只有此专用数据库需要访问分片映射。 图 4 说明了此拓扑及其使用弹性查询数据库和分片映射的配置。 有关弹性数据库客户端库和创建分片映射的详细信息,请参阅分片映射管理

图 4 水平分区 - 使用弹性查询实现分片数据层上的报告

Horizontal partitioning - Using elastic query for reporting over sharded data tiers

注意

弹性查询数据库(头节点)可以是单独的数据库,也可以是承载分片映射的相同数据库。 无论选择何种配置,请确保该数据库的服务层级和计算大小足够高,以便处理预期的登录/查询请求数。

通过以下步骤,为水平分区方案(需要访问通常位于 SQL 数据库中多个远程数据库上的一组表)配置弹性数据库查询:

执行这些步骤后,便可以访问水平分区的表“mytable”,就像它是本地表一样。 Azure SQL 数据库自动打开与远程数据库(在其中表以物理方式存储)的多个并行连接,处理远程数据库上的请求并返回结果。 有关水平分区方案所需的步骤的详细信息,可以在水平分区的弹性查询中找到。

若要开始编写代码,请参阅弹性查询入门 - 水平分区(分片)

重要

能否对大量的数据库成功执行弹性查询,在很大程度上取决于执行查询期间每个数据库的可用性。 如果其中的某个数据库不可用,整个查询将会失败。 如果你打算一次性查询数百甚至数千个数据库,请确保客户端应用程序中嵌入了重试逻辑,或者考虑利用弹性数据库作业(预览版)并查询一小部分数据库,然后将每个查询的结果合并到一个目标中。

T-SQL 查询

定义外部数据源和外部表后,便可以使用常规 SQL Server 连接字符串连接到在其中定义了外部表的数据库。 然后可以通过该连接对外部表运行 T-SQL 语句,但具有下述限制。 可以在水平分区垂直分区的文档主题中找到 T-SQL 查询的详细信息和示例。

工具的连接

可以使用常规 SQL Server 连接字符串将应用程序和 BI 或数据集成工具连接到具有外部表的数据库。 请确保支持将 SQL Server 用作工具的数据源。 连接后,可以引用弹性查询数据库和该数据库中的外部表,就像你会对使用工具连接的任何其他 SQL Server 数据库所做的一样。

重要

只有在使用 SQL Server 身份验证连接时才支持弹性查询。

成本

Azure SQL 数据库的成本中涵盖了弹性查询。 请注意,支持远程数据库与弹性查询终结点在不同的数据中心的拓扑,但通常按 Azure 费率对远程数据库的数据流出量进行收费。

预览版限制

  • 在小型资源以及“标准”和“通用”服务层级上运行第一个弹性查询可能需要长达几分钟时间。 此时间是加载弹性查询功能所必需的;使用更高的服务层级和计算大小可提高加载性能。
  • 尚不支持从 SSMS 或 SSDT 对外部数据源或外部表进行脚本编写。
  • SQL 数据库的导入/导出尚不支持外部数据源和外部表。 如果需要使用导入/导出,请在导出之前删除这些对象,并在导入后重新创建它们。
  • 弹性查询当前仅支持对外部表进行只读访问。 但是,可以对在其中定义了外部表的数据库使用完整的 Transact-SQL 功能。 这可能对以下操作很有用:例如,使用 SELECT <column_list> INTO <local_table> 来持久保存临时结果,或在引用外部表的弹性查询数据库中定义存储过程。
  • 除 nvarchar(max) 外,外部表定义不支持 LOB 类型(包括空间类型)。 一种解决方法是,可以在远程数据库上创建将 LOB 类型强制转换为 nvarchar(max) 的视图,通过该视图(而不是基表)定义外部表,然后在查询中将其强制转换回原始 LOB 类型。
  • 结果集中的 nvarchar(max) 数据类型列禁用弹性查询实现中使用的高级批处理技术,并且在大量非聚合数据正在作为查询的结果进行传输的非规范用例中可能会影响一个数量级甚至两个数量级的查询性能。
  • 当前不支持外部表上的列统计信息。 支持表统计信息,但需要手动创建。
  • Azure SQL 数据库中的外部表不支持游标。
  • 弹性查询仅适用于 Azure SQL 数据库。 无法用它查询 SQL Server 实例。
  • 对于那些作为外部数据源目标的数据库,弹性查询目前不支持专用链接。

后续步骤