Azure Stack Hub 上的图形处理单元 (GPU) 虚拟机 (VM)

本文介绍 Azure Stack Hub 集成系统上支持哪些图形处理单元 (GPU) 模型。 本文还包含有关安装用于 GPU 的驱动程序的说明。 Azure Stack Hub 中的 GPU 支持实现了诸如人工智能、训练、推理和数据可视化之类的解决方案。 可以使用 AMD Radeon Instinct MI25 来支持图形密集型应用程序，如 Autodesk AutoCAD。

可以从三个 GPU 模型中选择。 它们分别为 NVIDIA V100 GPU、NVIDIA T4 GPU 和 AMD MI25 GPU。 这些物理 GPU 支持以下 Azure N 系列虚拟机 (VM) 类型，如下所示：

• NCv3
• NVv4 (AMD MI25)
• NCasT4_v3

NCv3

NCv3 系列 VM 采用 NVIDIA Tesla V100 GPU。 客户可将这些更新的 GPU 用于传统的 HPC 工作负荷，例如油藏模拟、DNA 测序、蛋白质分析、Monte Carlo 模拟和其他工作负荷。

NVv4

NVv4 系列虚拟机由 AMD Radeon Instinct MI25 GPU 提供支持。 在 NVv4 系列中，Azure Stack Hub 推出了具有部分 GPU 的虚拟机。 此大小可用于 GPU 加速的图形应用程序和虚拟桌面。 NVv4 虚拟机目前只支持 Windows 来宾操作系统。

NCasT4_v3

NC_A100 v4

NC_A100 系列 VM 由 NVIDIA Ampere A100 GPU（Tesla V100 GPU 的接替者）提供支持。 你可以将这些更新的 GPU 用于传统的 HPC 工作负荷，例如油藏模拟、DNA 测序、蛋白质分析、Monte Carlo 模拟和其他工作负荷。

NC_L40S v4

GPU 系统注意事项

• GPU 必须是以下 SKU 之一：AMD MI-25、Nvidia V100（和变体）、Nvidia T4。
• 每个服务器支持的 GPU 数量（1、2、3、4）。 首选：1、2 和 4。
• 在整个缩放单元中，所有 GPU 必须具有完全相同的 SKU。
• 在整个缩放单元中，每个服务器的所有 GPU 数量必须相同。
• 在缩放单元上的所有 GPU VM 中，GPU 分区大小（对于 AMD Mi25）需相同。

容量计划

Azure Stack Hub Capacity Planner 已更新以支持 GPU 配置。 可在此处访问它。

在现有的 Azure Stack Hub 上添加 GPU

Azure Stack Hub 现在支持将 GPU 添加到任何现有系统。 若要添加 GPU，请运行 stop-azurestack，按 stop-azurestack 的过程运行，添加 GPU，然后运行 start-azurestack 直到完成。 如果系统中已有 GPU，则必须 stop-deallocated 以前创建的任何 GPU VM，然后重启。

VM 的修补升级以及 FRU 行为

GPU VM 会在执行 Azure Stack Hub 的修补升级 (PnU) 以及硬件更换 (FRU) 等操作期间停机。 下表提供了在这些活动期间观察到的 VM 状态，以及在这些操作后可以执行（以使这些 VM 可用）的手动操作。

来宾驱动程序安装

以下 PowerShell cmdlet 可用于驱动程序安装：

$VmName = <VM Name In Portal>
$ResourceGroupName = <Resource Group of VM>
$Location = "redmond"
$driverName = <Give a name to the driver>
$driverPublisher = "Microsoft.HpcCompute"
$driverType = <Specify Driver Type> #GPU Driver Types: "NvidiaGpuDriverWindows"; "NvidiaGpuDriverLinux"; "AmdGpuDriverWindows"
$driverVersion = <Specify Driver Version> #Nvidia Driver Version:"1.3"; AMD Driver Version:"1.0"

Set-AzureRmVMExtension  -Location $Location `
                            -Publisher $driverPublisher `
                            -ExtensionType $driverType `
                            -TypeHandlerVersion $driverVersion `
                            -VMName $VmName `
                            -ResourceGroupName $ResourceGroupName `
                            -Name $driverName `
                            -Settings $Settings ` # If no settings are set, omit this parameter
                            -Verbose

根据 Azure Stack Hub GPU VM 的 OS、类型和连接性，你必须将这些值替换为以下设置。

AMD MI25

无论连接状态如何，来宾驱动程序版本都必须与 Azure Stack Hub 版本匹配。 使用与 Azure Stack Hub 版本不一致的较新版本可能会导致可用性问题。

已连接

结合适用于 AMD 的驱动程序类型使用上一部分所述的 PowerShell 脚本。 在运行 Windows 的 N 系列 VM 上安装 AMD GPU 驱动程序一文提供了有关在启用了 NVv4 GPU-P 的 VM 内安装 AMD Radeon Instinct MI25 的驱动程序的说明，以及有关如何验证驱动程序安装的步骤。

已断开连接

由于扩展从 Internet 上的位置拉取驱动程序，因此与外部网络断开连接的 VM 无法访问它。 可以下载上表中提到的驱动程序，并将其上传到本地网络中可供 VM 访问的存储帐户。

将 AMD 驱动程序添加到存储帐户，并在 Settings 中指定该帐户的 URL。 这些设置必须在 Set-AzureRMVMExtension cmdlet 中使用。 例如：

$Settings = @{
"DriverURL" = <URL to driver in storage account>
}

NVIDIA

对于使用 GPU 的 CUDA 或 GRID 工作负载，必须在虚拟机内安装 NVIDIA 驱动程序。

用例：图形/可视化效果 GRID

此方案需要使用 GRID 驱动程序。 可以通过 NVIDIA 应用程序中心下载 GRID 驱动程序，前提是具有所需的许可证。 在 VM 上使用 GRID 驱动程序之前，GRID 驱动程序还需要一个带有相应 GRID 许可证的 GRID 许可证服务器。

$Settings = @{
"DriverURL" = "https://download.microsoft.com/download/e/8/2/e8257939-a439-4da8-a927-b64b63743db1/431.79_grid_win10_server2016_server2019_64bit_international.exe"; "DriverCertificateUrl" = "https://go.microsoft.com/fwlink/?linkid=871664"; 
"DriverType"="GRID"
}

用例：计算/CUDA - 已连接

CUDA 驱动程序不需要许可证服务器，也不需要修改后的设置。

用例：计算/CUDA - 已断开连接

可以使用以下链接获取指向 NVIDIA CUDA 驱动程序的链接： https://raw.githubusercontent.com/Azure/azhpc-extensions/master/NvidiaGPU/resources.json

Windows：

$Settings = @{
"DriverURL" = "";
"DriverCertificateUrl" = "https://go.microsoft.com/fwlink/?linkid=871664"; 
"DriverType"="CUDA"
}

Linux：

你必须引用设置的一些 URL：

将 URL 添加到设置。

$Settings=@{
"isCustomInstall"=$true;
"DRIVER_URL"="https://go.microsoft.com/fwlink/?linkid=874273";
"CUDA_ver"="10.0.130";
"PUBKEY_URL"="http://download.microsoft.com/download/F/F/A/FFAC979D-AD9C-4684-A6CE-C92BB9372A3B/7fa2af80.pub";
"DKMS_URL"="https://dl.fedoraproject.org/pub/epel/epel-release-latest-7.noarch.rpm";
"LIS_URL"="https://aka.ms/lis";
"LIS_RHEL_ver"="3.10.0-1062.9.1.el7"
}

后续步骤

• Azure Stack VM 功能