在 Batch 池中使用 RDMA 或 GPU 实例

若要运行某些 Batch 作业，可以利用专为大规模计算设计的 Azure VM 大小。 例如：

• 要运行多实例 MPI 工作负载，请选择 HB、HC、NC 或 ND 系列，或其他配备远程直接内存访问 (RDMA) 网络接口的规格。 这些大小均连接到用于节点间通信的 InfiniBand 网络，可加快 MPI 应用程序的速度。

• 对于 CUDA 应用程序，可选择包含 NVIDIA Tesla 图形处理单元 (GPU) 卡的 N 系列大小。

本文介绍了在 Batch 池中使用 Azure 的某些专用大小的指南和示例。 有关规格和背景的信息，请参阅：

• 高性能计算 VM 大小（Linux、Windows）

• 启用 GPU 的 VM 大小（Linux、Windows）

依赖项

Batch 中计算密集型规格的 RDMA 或 GPU 功能仅在某些操作系统上受支持。 这些 VM 大小支持的操作系统只是可用于虚拟机创建的操作系统的其中一部分。 根据创建 Batch 池的方式，可能需要在节点上安装或配置额外的驱动程序或软件。 下表总结了这些依存关系。 有关详细信息，请参阅链接的文章。 有关配置 Batch 池的选项，请参阅本文后面部分。

Linux 池 - 虚拟机配置

^*支持 RDMA 的 N 系列规格还包括 NVIDIA Tesla GPU

Windows 资源池 - 虚拟机配置

^*支持 RDMA 的 N 系列规格还包括 NVIDIA Tesla GPU

池配置选项

为 Batch 池配置特定虚拟机大小时，可以通过以下几种方式安装所需的软件或驱动程序：

• 对于虚拟机配置中的池，请选择已预先配置好的 Azure 市场 虚拟机映像，其中已预装驱动程序和软件。 示例:

  • 适用于 Linux 或 Windows 的 Data Science Virtual Machine - 包括 NVIDIA CUDA 驱动程序

  • 适用于 Batch 容器工作负载且还包含 GPU 和 RDMA 驱动程序的 Linux 镜像：

  • 适用于 Azure Batch 容器池的 Ubuntu 服务器（包含 GPU 和 RDMA 驱动程序）

• 创建自定义 Windows 或 Linux VM 映像，其上安装了 VM 大小所需的驱动程序、软件或其他设置。

• 通过 VM 扩展安装 GPU 和 RDMA 驱动程序。

• 从压缩的驱动程序或应用程序安装程序创建 Batch 应用程序包。 然后，配置 Batch 以将此包部署到池节点并在创建每个节点时安装一次。 例如，如果应用程序包是安装程序，请创建一个启动任务命令行，以在所有池节点上静默安装该应用。 若工作负载取决于特定的驱动程序版本，请考虑使用应用程序包和池启动任务。

  注意

  启动任务必须以提升后的（管理员）权限运行，并且必须等待其成功完成。 长时间运行的任务会增加预配 Batch 池所需的时间。

示例：Windows NC VM 池上的 NVIDIA GPU 驱动程序

若要在一个 Windows NC 节点池上运行 CUDA 应用程序，则需要安装 NVIDIA GPU 驱动程序。 以下示例步骤使用应用程序包来安装 NVIDIA GPU 驱动程序。 如果工作负载取决于特定的 GPU 驱动程序版本，则可以选择此选项。

1. 从 NVIDIA 网站下载 Windows Server 2016 上的 GPU 驱动程序的安装程序包 - 例如，版本 411.82。 使用短名称（如 GPUDriverSetup.exe）在本地保存文件。
2. 为程序包创建 zip 文件。
3. 将程序包上载到 Batch 帐户。 有关详细步骤，请参阅应用程序包指南。 指定应用程序 ID（如 GPUDriver）和版本（如 411.82） 。
4. 通过 Batch API 或 Azure 门户，在虚拟机配置中创建具有所需节点数和规模的池。 下表显示了使用启动任务静默安装 NVIDIA GPU 驱动程序的示例设置：

示例：Linux NC VM 池上的 NVIDIA GPU 驱动程序

若要在 Linux NC 节点的池上运行 CUDA 应用程序，需要从 CUDA Toolkit 安装必要的 NVIDIA Tesla GPU 驱动程序。 以下示例步骤使用 GPU 驱动程序创建和部署自定义 Ubuntu 22.04 LTS 映像：

1. 部署运行 Ubuntu 22.04 LTS 的 Azure NC 系列 VM。 例如：在美国中南部区域创建 VM。

2. 使用 Azure 门户、连接到 Azure 订阅的客户端计算机或 Azure 本地 Shell 将 NVIDIA GPU 驱动程序扩展添加到 VM。 或者，按照以下步骤连接到 VM 并手动安装 CUDA 驱动程序。

3. 按照步骤为 Batch 创建 Azure Compute Gallery 图像。

4. 在支持 NC VM 的区域中创建 Batch 帐户。

5. 通过 Batch API 或 Azure 门户，使用自定义映像创建具有所需节点数和规模的池。 下表显示了该镜像的示例池设置：

后续步骤

• 若要在 Azure Batch 池上运行 MPI 作业，请参阅 Windows 或 Linux 示例。