存储队列和服务总线队列 - 比较与对照

本文分析 Azure 提供的以下两种队列类型之间的差异和相似性:存储队列和服务总线队列。 通过使用此信息,可以更明智地选出最适合你需求的解决方案。

简介

Azure 支持两种队列机制:“存储队列”和“服务总线队列” 。

存储队列是 Azure 存储基础结构的一部分。 存储队列允许存储大量消息。 可以使用 HTTP 或 HTTPS 通过经验证的调用从世界任何位置访问消息。 队列消息大小最大可为 64 KB。 一个队列可以包含数百万条消息,直至达到存储帐户的总容量限值。 队列通常用于创建要异步处理的积压工作 (backlog)。 有关详细信息,请参阅什么是 Azure 存储队列

服务总线队列是更广泛的 Azure 消息传递基础结构的一部分,可支持队列、发布/订阅和更高级的集成模式。 服务总线队列旨在集成可能跨多个通信协议、数据约定、信任域或网络环境的应用程序或应用程序组件。 有关服务总线队列/话题/订阅的详细信息,请参阅服务总线队列、主题和订阅

技术选择注意事项

存储队列和服务总线队列具有略微不同的功能集。 可以选择其中一种或两者,具体取决于特定解决方案的需求。

在确定哪种队列技术适合给定的解决方案时,解决方案架构师和开发人员应考虑以下建议。

考虑使用存储队列

作为解决方案架构师/开发人员,在以下情况下, 应考虑使用存储队列

  • 应用程序必须在队列中存储超过 80 GB 的消息。
  • 应用程序需要跟踪队列中消息的处理进度。 如果处理消息的工作进程发生崩溃,这非常有用。 其他工作进程可以使用该信息从之前的工作进程停止处继续。
  • 你需要针对队列执行的所有事务的服务器端日志。

考虑使用服务总线队列

作为解决方案架构师/开发人员,在以下情况下, 应考虑使用服务总线队列

  • 解决方案需要在无需轮询队列的情况下接收消息。 有了服务总线,就可以使用服务总线支持的基于 TCP 的协议,通过长轮询接收操作来实现此目的。
  • 解决方案要求队列必须遵循先入先出 (FIFO) 的传递顺序。
  • 解决方案需要支持自动重复检测。
  • 希望应用程序将消息作为长时间运行的并行流进行处理(使用消息的 SessionId 属性,将消息与流相关联)。 在这种模式下,消费应用程序中的每个节点会竞争流而不是消息。 当流被提供给某个消费节点时,该节点可以使用事务检查应用程序流的状态。
  • 解决方案在发送或接收来自队列的多个消息时,需要事务行为和原子性。
  • 应用程序处理的消息介于 64 KB 和 256 KB 之间。
  • 需要向队列提供基于角色的访问模型,为发送方和接收方提供不同权限。 有关详细信息,请参阅以下文章:
  • 队列大小不会增长到超过 80 GB。
  • 希望使用基于 AMQP 1.0 标准的消息传送协议。 有关 AMQP 的详细信息,请参阅服务总线 AMQP 概述
  • 设想最终会从基于队列的点对点通信迁移到发布-订阅消息传递模式。 此模式可以集成其他接收器(订阅者)。 每个接收方都接收发送到队列的部分或全部消息的独立副本。
  • 消息传送解决方案需要支持“至多一次”传递保证,而无需构建其他基础结构组件。
  • 解决方案需要发布并使用消息批处理。

比较存储队列和服务总线队列

以下各部分中的表提供队列功能的逻辑分组。 通过下面的表,可以清楚地比较 Azure 存储队列和服务总线队列中的可用功能。

基础功能

本部分比较存储队列和服务总线队列提供的一些基础队列功能。

比较条件 存储队列 服务总线队列
排序保障

有关详细信息,请参阅其他信息部分的第一条说明。
是 - 先进先出 (FIFO)

(通过使用消息会话
传递保障 至少一次 至少一次(使用 PeekLock 接收模式。 这是默认值)

最多一次(使用 ReceiveAndDelete 接收模式)

详细了解各种接收模式
原子操作支持

接收行为 非阻止

(如果没有发现新消息,则立即完成)
阻止超时或未超时

(提供长轮询,或“Comet 技术”

非阻止

(通过仅使用 .NET 托管的 API)
推送样式 API

QueueClient.OnMessageMessageSessionHandler.OnMessage 会话 .NET API。
接收模式 扫视与租赁 扫视与锁定

接收并删除
独占访问模式 基于租赁 基于锁定
租赁/锁定持续时间 30 秒(默认值)

7 天(最大值) (可使用 UpdateMessage API 续订或释放消息租赁。)
60 秒(默认值)

可使用 RenewLock API 续订消息锁。
租赁/锁定精度 消息级别

(每条消息可具有不同的超时值,可在处理消息时,根据需要使用 UpdateMessage API 来更新超时值)
队列级别

(每个队列都具有一个适用于其中所有消息的锁定精度,但是可使用 RenewLock API 续订该锁。)
成批接收

(在检索消息时显式指定消息计数,最多可达 32 条消息)


(隐式启用预提取属性或通过使用事务显式启用)
成批发送

(通过使用事务或客户端批处理)

其他信息

  • 存储队列中的消息通常先进先出,但有时可能会不按顺序进出。 例如,由于客户端应用程序在处理消息时崩溃而导致消息的可见性超时持续时间到期时。 当可见性超时到期时,消息会再次变成在队列上可见,让另一个工作进程能够取消它的排队。 此时,重新变成可见的消息可以放置在队列中以再次取消其排队。
  • 服务总线队列中有保障的 FIFO 模式要求使用消息传送会话。 如果应用程序处理在“速览与锁定”模式下接收的消息时发生崩溃,则当下次队列接收方接受消息传递会话时,它将在失败消息的生存时间 (TTL) 期限过期后从失败的消息开始。
  • 存储队列旨在支持标准加入队列方案,例如以下方案:
    • 解耦应用程序组件,提高可伸缩性和故障容错能力
    • 负载分级
    • 构建过程工作流。
  • 可以避免在服务总线会话上下文中处理消息时出现的不一致,方法是:使用会话状态来存储应用程序的状态(与处理会话的消息序列的进程相关),以及使用与处理接收的消息和更新会话状态相关的事务。 这种一致性功能有时在其他供应商的产品中标记为“只需处理一次”。 任何事务失败显然都将导致消息重新传递,这就是该术语不够恰当的原因。
  • 存储队列可在多个队列、表和 Blob 上提供统一和一致的编程模型 - 对于开发人员和运营团队都是如此。
  • 服务总线队列为单个队列的上下文中的本地事务提供支持。
  • 服务总线支持的“接收与删除”模式提供了减少消息传送操作计数(和相关成本)以换取降低安全传递保证的能力。
  • 存储队列提供租赁且可延长消息租赁时间。 此功能允许工作进程对消息保持短的租赁时间。 因此,如果某个工作进程崩溃,则其他工作进程可以再次快速处理该消息。 此外,如果工作进程处理消息所需的时间比当前租赁时间长,则工作进程可以延长该消息的租赁时间。
  • 存储队列提供了可见性超时,可针对消息入队或出队进行设置。 此外,可以在运行时使用不同租赁值更新消息,并且可以跨同一队列的消息更新不同值。 服务总线锁定超时在队列元数据中定义。 但是,可以通过调用 RenewLock 方法来续订锁。
  • 服务总线队列中阻塞接收操作的最大超时值为 24 天。 但是,基于 REST 的最大超时值为 55 秒。
  • 服务总线提供的客户端批处理允许队列客户端将多个消息纳入一个发送操作中进行批处理。 批处理仅适用于异步发送操作。
  • 有些特性,例如存储队列的 200 TB 上限(虚拟化帐户时更多)和无限制队列,使得它成为 SaaS 提供商的理想平台。
  • 存储队列提供灵活且性能良好的委托访问控制机制。

高级功能

本部分对存储队列和服务总线队列提供的高级功能进行了比较。

比较条件 存储队列 服务总线队列
计划的传递
自动死信
提高队列生存时间值

(通过就地更新可见性超时)


(通过一个专用 API 功能提供)
有害消息支持
就地更新
服务器端事务日志
存储度量值

分钟指标提供有关可用性、TPS、API 调用计数、错误计数等的实时指标。 它们都是实时的,每分钟聚合一次,并在几分钟内报告生产环境中刚刚发生的事件。 有关详细信息,请参阅关于存储分析度量值


(通过调用 GetQueues 进行大容量查询)
状态管理

Microsoft.ServiceBus.Messaging.EntityStatus.ActiveMicrosoft.ServiceBus.Messaging.EntityStatus.DisabledMicrosoft.ServiceBus.Messaging.EntityStatus.SendDisabledMicrosoft.ServiceBus.Messaging.EntityStatus.ReceiveDisabled
消息自动转发
清除队列函数
消息组

(通过使用消息传送会话)
每个消息组的应用程序状态
重复检测

(可在发送端配置)
浏览消息组
按 ID 提取消息会话

其他信息

  • 两种队列技术都允许将消息安排在以后传送。
  • 利用队列自动转发功能,数千个队列可将它们的消息自动转发至单个队列,而接收应用程序将使用来自该队列的消息。 可以使用此机制来实现安全性和控制流,并且隔离每个消息发布者的存储。
  • 存储队列为更新消息内容提供支持。 可以使用此功能将状态信息和递增进度更新持久保留到消息中,以便能够从上一个已知的检查点处理该消息,而不是从头开始。 借助服务总线队列,可以通过使用消息会话实现相同的方案。 会话允许保存和检索应用程序处理状态(通过使用 SetStateGetState)。
  • 服务总线队列支持死信。 若要隔离满足以下条件的消息,这很有用:
    • 接收应用程序无法成功处理消息
    • 消息因生存时间 (TTL) 属性过期而无法到达目的地。 TTL 值指定消息在队列中保留的时间。 对于服务总线,在 TTL 期限过期时,该消息将移到一个特殊的队列(称为 $DeadLetterQueue)。
  • 为了在存储队列中查找“病毒”消息,在将某个消息取消排队时,应用程序将检查该消息的 DequeueCount 属性。 如果 DequeueCount 大于给定的阈值,应用程序会将消息移到应用程序定义的“死信”队列。
  • 利用存储队列,可以获取针对该队列执行的所有事务的详细日志以及聚合指标。 这两个选项可用于调试和了解应用程序如何使用存储队列。 它们还用于对应用程序进行性能优化并降低使用队列的成本。
  • 服务总线支持的消息会话使属于逻辑组的消息能够与接收方关联。 它会在消息及其各自的接收方之间创建类似于会话的关联。 可以通过对消息设置 SessionID 属性,在服务总线中启用此高级功能。 然后,接收者可以侦听特定会话 ID,并接收共享特定会话标识符的消息。
  • 服务总线队列的重复检测功能会根据 MessageId 属性的值自动删除发送到队列或主题的重复消息。

容量和配额

本节从适用的容量和配额角度比较存储队列和服务总线队列。

比较条件 存储队列 服务总线队列
最大队列大小 500 TB

(限制为单个存储帐户容量
1 GB 到 80 GB

(在创建队列和启用分区时定义 - 请参阅“其他信息”部分)
最大消息大小 64 KB

(使用 Base64 编码时为 48 KB)

Azure 可以通过合并队列和 Blob 支持大消息 - 此时单个项目排队的消息最多可达到 200 GB。
256 KB1 MB

(包含标头和正文,最大标头大小:64 KB)。

取决于服务层级
最大消息 TTL 无限(API 版本 2017-07-27 或更高版本) TimeSpan.Max
最大队列数 不受限制 10,000

(按服务命名空间)
并发客户端的最大数目 无限制 无限制

(100 个并发连接限制仅适用于基于 TCP 协议的通信)

其他信息

  • 服务总线强制实施队列大小限制。 创建队列时指定最大队列大小。 大小可以介于 1 GB 和 80 GB 之间。 如果队列的大小达到此限制,则其他传入消息将遭到拒绝,并且调用方会收到异常。 有关服务总线中配额的详细信息,请参阅服务总线配额
  • 高级层不支持分区。 在标准消息传递层中,可以创建 1(默认值)、2、3、4 或 5 GB 大小的服务总线队列和主题。 启用分区后,服务总线将创建实体的 16 个副本(16 个分区),每个副本具有指定的相同大小。 因此,如果你创建了一个大小为 5 GB 的队列,共有 16 个分区,最大队列大小为 (5 * 16) = 80 GB。 可以在 Azure 门户中查看分区队列或主题的最大大小。
  • 在存储队列中,如果消息的内容不属于 XML 安全内容,则必须对其进行 Base64 编码。 如果使用 Base64 编码此消息,则用户负载可高达 48 KB,而不是 64 KB。
  • 对于服务总线队列,存储在队列中的每条消息由两个部分组成:标头和正文。 消息的总大小不能超过服务层级支持的最大消息大小。
  • 当客户端通过 TCP 协议与服务总线队列进行通信时,到单个服务总线队列的最大并发连接数不得超过 100。 此数值在发送方和接收方之间共享。 如果达到此配额,则其他连接请求将遭到拒绝,并且调用代码将收到异常。 使用基于 REST 的 API 连接到队列的客户端不受此限制。
  • 如果在单个服务总线服务命名空间中需要超过 10,000 个队列,可以联系 Azure 支持团队并请求增加数目。 若要使用服务总线扩展到 10,000 个以上的队列,还可使用 Azure 门户创建其他服务命名空间。

管理和操作

本部分对存储队列和服务总线队列提供的管理功能进行了比较。

比较条件 存储队列 服务总线队列
管理协议 基于 HTTP/HTTPS 的 REST 基于 HTTPS 的 REST
运行时协议 基于 HTTP/HTTPS 的 REST 基于 HTTPS 的 REST

AMQP 1.0 标准(具有 TLS 的 TCP)
.NET API

(.NET 存储客户端 API)


(.NET 服务总线 API)
本机 C++
Java API
PHP API
Node.js API
任意元数据支持
队列命名规则 长度最多为 63 个字符

(队列名称中的字母必须小写。)
长度最多为 260 个字符

(队列路径和名称不区分大小写。)
获取队列长度函数

(在消息超出 TTL 但未删除的情况下的近似值。)


(精确时间点值。)
Peek 函数

其他信息

  • 存储队列为可应用于队列说明的任意属性提供支持(以名称/值对形式)。
  • 两种队列技术还提供无需锁定消息即可进行消息扫视的功能,这在实现队列资源管理器/浏览器工具时可能非常有用。
  • 服务总线 .NET 中转消息传送 API 使用全双工 TCP 连接,因此与基于 HTTP 的 REST 相比提高了性能,另外它们还支持 AMQP 1.0 标准协议。
  • 存储队列名称长度可以在 3-63 个字符之间,可以包含小写字母、数字和连字符。 有关详细信息,请参阅 命名队列和元数据
  • 服务总线队列名称长度最大可达 260 个字符,且命名规则限制较少。 服务总线队列名称可以包含字母、数字、句点、连字符和下划线。

身份验证和授权

本部分讨论存储队列和服务总线队列支持的身份验证和授权功能。

比较条件 存储队列 服务总线队列
身份验证 对称密钥 对称密钥
安全模型 通过 SAS 令牌进行的委托访问。 SAS
标识提供者联合

其他信息

  • 针对任一队列技术的每个请求都必须进行身份验证。 不支持使用匿名访问的公共队列。 使用 SAS,可以通过发布只写 SAS、只读 SAS 甚至完全访问权限 SAS 来满足这种方案的需求。
  • 由存储队列提供的身份验证方案涉及对称密钥的使用。 此密钥是基于哈希的消息身份验证码 (HMAC),使用 SHA-256 算法进行计算并编码为 Base64 字符串。 有关相应协议的详细信息,请参阅 Authentication for the Azure Storage Services(Azure 存储服务的身份验证)。 服务总线队列支持使用对称密钥的类似模型。 有关详细信息,请参阅 使用服务总线进行共享访问签名身份验证

结论

通过更深入地了解这两种技术,可以就使用哪种队列技术以及何时使用做出更明智的决策。 决定何时使用存储队列或服务总线队列时,显然要考虑很多因素。 这些因素很大程度上取决于应用程序及其体系结构的独特需要。

出于以下原因,可能更愿意选择存储队列:

  • 如果应用程序已使用 Azure 的核心功能
  • 如果需要在服务之间进行基本通信和消息传递
  • 需要大小超过 80 GB 的队列

服务总线队列提供了许多高级功能,例如以下功能。 因此,如果要构建混合应用程序,或者应用程序需要这些功能,则应首选这些功能。

后续步骤

以下文章提供了有关使用存储队列或服务总线队列的更多指导和信息。