Azure Stack Hub 计算容量

Azure Stack Hub 上支持的虚拟机 (VM) 大小是在 Azure 上支持的 VM 大小的子集。 Azure 在多方面施加资源限制,以避免资源(服务器本地和服务级别)的过度消耗。 如果未对租户使用资源施加一些限制,则当一些租户过度使用资源时,另一些租户的体验就会变差。 VM 的网络出口在 Azure Stack Hub 上有与 Azure 限制一致的带宽上限。 对于 Azure Stack Hub 上的存储资源,存储 IOPS 限制可避免租户为了访问存储而造成资源过度消耗。

重要

Azure Stack Hub Capacity Planner 不考虑或保证 IOPS 性能。 当系统内存总消耗达到 85% 时,管理员门户会显示警告性警报。 要修正此警报,可添加额外的容量,或者删除不再需要的虚拟机。

VM 定位

Azure Stack Hub 定位引擎跨可用的主机放置租户 VM。

放置 VM 时,Azure Stack Hub 使用两个考虑因素。 第一个考虑因素是主机上是否有足够的内存可供该 VM 类型使用? 第二个考虑因素是 VM 是否是可用性集虚拟机规模集的一部分?

为了在 Azure Stack Hub 中实现多 VM 生产工作负载的高可用性,虚拟机 (VM) 会被置于横跨多个容错域的可用性集中。 可用性集中的容错域定义为缩放单元中的单个节点。 为了与 Azure 保持一致,Azure Stack Hub 支持的可用性集最多有三个容错域。 置于可用性集中的 VM 在物理上是彼此隔离的,换句话说,会尽可能均衡地让其分散到多个容错域(Azure Stack Hub 节点)中。 如果发生硬件故障,出现故障的容错域中的 VM 将在其他容错域中重启。 如果可能,它们将保留在同一可用性集中与其他 VM 不同的容错域中。 当主机重新联机时,会对 VM 重新进行均衡操作,以维持高可用性。

虚拟机规模集在后端使用可用性集,并确保每个虚拟机规模集实例都位于不同的容错域。 这意味着规模集使用不同的 Azure Stack Hub 基础结构节点。 例如,在四节点 Azure Stack Hub 系统中,可能存在这样一种情况:由于缺少四节点容量,无法将三个虚拟机规模集实例放置在三个单独的 Azure Stack Hub 节点上,因此由三个实例组成的虚拟机规模集在创建时将失败。 此外,Azure Stack Hub 节点可能先在不同的级别填满,然后尝试放置。

Azure Stack Hub 不会过度提交内存。 但是,允许过度提交物理核心数。

由于放置算法不将现在的虚拟核心与物理核心的预配过度比率视为一个因素,因此每个主机可以有不同的比率。 对于 Azure,我们不提供有关物理-虚拟核心比率的指导,因为工作负荷和服务级别要求有差异。

VM 总数注意事项

可以创建的 VM 总数有限制。 Azure Stack Hub 上的最大 VM 数为 700,每个缩放单元节点为 60 个。 例如,八服务器 Azure Stack Hub VM 数目限制是 480 (8 * 60)。 对于包含 12 到 16 个服务器的 Azure Stack Hub 解决方案,限制为 700 个 VM。 确定此限制时,我们考虑到了所有计算容量,例如复原能力,以及运营商想要在阵列上保持的虚拟与物理 CPU 之比。

如果达到了 VM 规模限制,将返回以下错误代码:VMsPerScaleUnitLimitExceededVMsPerScaleUnitNodeLimitExceeded

注意

700 个最大 VM 数的一部分预留给 Azure Stack Hub 基础结构 VM。 有关详细信息,请参阅 Azure Stack Hub 容量计划工具

VM 的批量部署注意事项

在 2002 版本以及之前的版本中,每批部署 2-5 个 VM,各批次之间间隔 5 分钟,就可以提供可靠的 VM 部署,以达到 700 个 VM 的规模。 从 2005 版本的 Azure Stack Hub 开始,我们能够通过每批部署 40 个 VM,各批部署之间间隔 5 分钟,可靠地预配 VM。 开始、停止解除分配和更新操作应以 30 的批大小进行,每批间隔 5 分钟。

GPU VM 的注意事项

Azure Stack Hub 会为基础结构和租户 VM 预留用于故障转移的内存。 与其他 VM 不同,GPU VM 在非 HA(高可用性)模式下运行,因此不会进行故障转移。 因此,基础结构进行故障转移所需的内存即为仅限 GPU VM 的戳的预留内存,而不需要同时考虑 HA 租户 VM 内存。

Azure Stack Hub 内存

Azure Stack Hub 旨在让已成功预配的 VM 持续运行。 例如,如果某台主机由于硬件故障而脱机,Azure Stack Hub 会尝试在另一台主机上重启该 VM。 另一个示例是 Azure Stack Hub 软件的修补和更新。 如果需要重新启动物理主机,系统会尝试将该主机上运行的 VM 移到解决方案中另一台可用的主机上。

这种 VM 管理或移动能够实现的前提是存在预留内存容量,允许重启或迁移发生。 整个主机内存中有一部分进行预留,此部分不可用于放置租户 VM。

可以在管理员门户中查看饼图,其中显示了 Azure Stack Hub 中可用和已用的内存。 下图显示了 Azure Stack Hub 中 Azure Stack Hub 缩放单元上的物理内存容量:

Physical memory capacity on an Azure Stack Hub scale unit

已用内存由多个部分组成。 以下组件消耗饼了图中的已用内存部分:

  • 主机 OS 的用量或预留量: 主机上的操作系统 (OS)、虚拟内存页面表、主机 OS 上运行的程序以及空间直通内存缓存使用的内存。 此值依赖于主机上运行中的不同 Hyper-V 进程使用的内存,因此可能有浮动。
  • 基础结构服务: 构成 Azure Stack Hub 的基础结构 VM。 如前文所述,这些 VM 是 700 个最大 VM 数的一部分。 我们一直在努力让基础结构服务变得更具可伸缩性和弹性,因此基础结构服务组件的内存用量可能会有变化。 有关详细信息,请参阅 Azure Stack Hub 容量计划工具
  • 复原功能的预留量: Azure Stack Hub 预留一部分内存,用于在单个主机故障期间保持租户可用性,以及在修补和更新期间让 VM 成功进行实时迁移。
  • 租户 VM: Azure Stack Hub 用户创建的租户 VM。 除了运行 VM 以外,任何在结构上登陆的 VM 也消耗内存。 这些 VM 指处于“正在创建”或“失败”状态的 VM,或者从来宾关闭的 VM。 但是,已从门户/PowerShell/CLI 使用“停止解除分配”选项来解除分配的 VM 不会消耗 Azure Stack Hub 中的内存。
  • 增值资源提供程序 (RP): 为 SQL、MySQL、应用服务等增值 RP 部署的 VM。

在门户上了解内存消耗量的最佳方式是使用 Azure Stack Hub Capacity Planner 来查看各种工作负荷的影响。 以下计算方式与规划器使用的方式相同。

此计算会生成一个可用于租户 VM 放置的总可用内存。 该内存容量适用于整个 Azure Stack Hub 缩放单元。

VM 放置的可用内存 = 主机总内存 - 复原保留 - 运行租户 VM 所使用的内存 - Azure Stack Hub 基础结构开销 1

  • 主机总内存 = 所有节点的内存总和
  • 复原保留 = H + R * ((N-1) * H) + V * (N-2)
  • 租户 VM 使用的内存 = 租户工作负载消耗的实际内存,不取决于 HA 配置
  • Azure Stack Hub 基础结构开销 = 268 GB + (4GB x N)

其中:

  • H = 单服务器内存的大小
  • N = 缩放单元的大小(服务器数)
  • R = 用于 OS 开销的操作系统预留量,在此公式中为 .152
  • V = 缩放单元中的最大 HA VM

1 Azure Stack Hub 基础结构开销 = 268 GB + (4 GB x 节点数)。 大约使用 31 个 VM 来托管 Azure Stack Hub 基础结构,总共消耗约 268 GB + (4 GB x 节点数) 的内存和 146 个虚拟核心。 使用这个数目的 VM 是为了进行必要的服务隔离,使之符合安全性、可伸缩性、服务和修补方面的要求。 这种内部服务结构允许在将来引入新开发的基础结构服务。

2 操作系统针对开销的保留 = 15% (.15) 的节点内存。 操作系统保留值是一个估计值,具体取决于服务器的物理内存容量和常规的操作系统开销。

值 V(缩放单元中的最大 HA VM)是动态变化的,具体取决于最大的租户 VM 内存大小。 例如,Azure Stack Hub 解决方案中最大的 HA VM 值至少为 12 GB(占基础结构 VM)或 112 GB 或任何其他支持的 VM 内存大小。 更改 Azure Stack Hub 结构上最大的 HA VM 会导致增大复原预留量,同时还会导致 VM 本身的内存增加。 请记住,GPU VM 在非 HA 模式下运行。

示例计算

我们有一个小型四节点 Azure Stack Hub 部署,每个节点上有 768 GB RAM。 我们计划为具有 128GB RAM (Standard_E16_v3) 的 SQL 服务器放置一个虚拟机。 VM 放置的可用内存是多少?

  • 主机总内存 = 所有节点的内存总和 = 4 * 768 GB = 3072 GB
  • 复原功能预留量 = H + R * ((N-1) * H) + V * (N-2) = 768 + 0.15 * ((4 - 1) * 768) + 128 * (4 - 2) = 1370 GB
  • 租户 VM 使用的内存 = 租户工作负载消耗的实际内存,不取决于 HA 配置 = 0 GB
  • Azure Stack Hub 基础结构开销 = 268 GB + (4GB x N) = 268 + (4 * 4) = 284 GB

VM 放置的可用内存 = 主机总内存 - 复原功能预留量 - 运行租户 VM 使用的内存 - Azure Stack Hub 基础结构开销

VM 放置的可用内存 = 3072 - 1370 - 0 - 284 = 1418 GB

解除分配的注意事项

当 VM 处于“解除分配”状态时,不会使用内存资源。 这允许将其他 VM 放置在系统中。

如果随后再次启动已解除分配的 VM,则内存使用或分配将像放置在系统中的新 VM 一样处理,并占用可用内存。 如果没有可用内存,则 VM 将不会启动。

当前已部署的大型 VM 显示已分配的内存为 112 GB,而这些 VM 的内存需求约为 2-3 GB。

名称 分配的内存 (GB) 内存需求 (GB) 计算机名
ca7ec2ea-40fd-4d41-9d9b-b11e7838d508 112 2.2392578125 LISSA01P-NODE01
10cd7b0f-68f4-40ee-9d98-b9637438ebf4 112 2.2392578125 LISSA01P-NODE01
2e403868-ff81-4abb-b087-d9625ca01d84 112 2.2392578125 LISSA01P-NODE04

使用公式“复原功能的预留量 = H + R * ((N-1) * H) + V * (N-2)”为放置 VM 而释放内存的方法有三种:

  • 减小最大 VM 的大小
  • 增加节点的内存
  • 添加节点

减小最大 VM 的大小

将最大 VM 的大小减少到缩放单元 (24 GB) 中的下一个最小 VM 大小将减小复原功能的预留量大小。

Reduce the VM size

复原功能的预留量 = 384 + 172.8 + 48 = 604.8 GB

总内存量 Infra GB 租户 GB 复原功能的预留量 预留的总内存量 可用于放置的总 GB 数
1536 GB 258 GB 329.25 GB 604.8 GB 258 + 329.25 + 604.8 = 1168 GB ~344 GB

添加节点

添加 Azure Stack Hub 节点会通过在两个节点之间平均分配内存来释放内存。

Add a node

复原能力预留量 = 384 + (0.15) ((5)*384) + 112 * (3) = 1008 GB

内存总量 Infra GB 租户 GB 复原功能的预留量 预留的总内存量 可用于放置的总 GB 数
1536 GB 258 GB 329.25 GB 604.8 GB 258 + 329.25 + 604.8 = 1168 GB ~ 344 GB

将每个节点上的内存增加到 512 GB

增加每个节点的内存将增加可用内存总量。

Increase the size of the node

复原功能的预留量 = 512 + 230.4 + 224 = 966.4 GB

内存总量 Infra GB 租户 GB 复原功能的预留量 预留的总内存量 可用于放置的总 GB 数
2048 (4*512) GB 258 GB 505.75 GB 966.4 GB 1730.15 GB ~ 318 GB

常见问题

:我的租户部署了新的 VM,管理员门户上的容量图表要多久才显示剩余容量?

:容量边栏选项卡每隔 15 分钟刷新一次,请考虑到这一点。

:如何查看可用核心和已分配的核心?

:在 PowerShell 中运行 test-azurestack -include AzsVmPlacement -debug,这将生成类似于以下内容的输出:

    Starting Test-AzureStack
    Launching AzsVmPlacement
     
    Azure Stack Scale Unit VM Placement Summary Results
     
    Cluster Node    VM Count VMs Running Physical Core Total Virtual Co Physical Memory Total Virtual Mem
    ------------    -------- ----------- ------------- ---------------- --------------- -----------------
    LNV2-Node02     20       20          28            66               256             119.5            
    LNV2-Node03     17       16          28            62               256             110              
    LNV2-Node01     11       11          28            47               256             111              
    LNV2-Node04     10       10          28            49               256             101              
    
    PASS : Azure Stack Scale Unit VM Placement Summary

:我的 Azure Stack Hub 上部署的 VM 数量没有变化,但我的容量却在波动。 为什么?

:VM 放置的可用内存取决于多种因素,其中之一就是主机的 OS 预留量。 此值取决于主机上运行的不同 Hyper-V 进程所使用的内存,它不是常量值。

:租户 VM 必须处于何种状态才会消耗内存?

:除了运行 VM 以外,任何在结构上登陆的 VM 也消耗内存。 这意味着,处于“正在创建”或“失败”状态的 VM 会消耗内存。 已从来宾内部关闭的,而不是从门户/PowerShell/CLI 停止解除分配的 VM 也会消耗内存。

:我有一个四主机 Azure Stack Hub。 我的租户中有 3 个 VM,它们各自消耗 56 GB RAM (D5_v2)。 其中一个 VM 的大小调整为 112 GB RAM (D14_v2),仪表板上的可用内存报告导致容量边栏选项卡上出现 168 GB 的用量高峰。 后续将另外两个 D5_v2 VM 的大小调整为 D14_v2 时,各自只导致增加 56 GB 的 RAM。 为什么会这样?

:可用内存受 Azure Stack Hub 保留的复原预留量的影响。 复原预留量受 Azure Stack Hub 阵列上最大 VM 大小的影响。 最初,阵列上的最大 VM 是 56 GB 内存。 调整 VM 大小后,阵列上的最大 VM 将变成 112 GB 内存,这不只会增大该租户 VM 使用的内存,也会增大复原预留量。 此项更改导致增加 56 GB(租户 VM 内存从 56 GB 增加到 112 GB)+ 增加 112 GB 复原预留内存。 后续调整 VM 大小时,最大 VM 的大小仍保持为 112 GB VM,因此没有增加任何复原预留量。 内存消耗量的增量只是租户 VM 内存增量 (56 GB)。

注意

网络方面的容量规划要求很少,因为能够配置的只有公共 VIP 的大小。 若要了解如何向 Azure Stack Hub 添加更多的公共 IP 地址,请参阅添加公共 IP 地址

后续步骤

了解 Azure Stack Hub 存储