适用于:✔️ Linux VM
Important
为与包容性语言实践保持一致,本文档将“黑名单”一词替换为“阻止名单”。 这种变化反映了一项承诺,以避免可能具有意外的负面内涵或感知的种族偏见的术语。 但是,在代码片段和技术引用中,“黑名单”是已建立语法或工具的一部分(例如配置文件、命令行参数),保留原始术语以保留功能准确性。 这种用法严格是技术性的,并不意味着任何歧视性意图。
若要手动安装 NVIDIA GPU 驱动程序,请按照本文中所述的步骤进行操作。 手动驱动程序设置信息也适用于 Windows VM。
有关技术规范,请参阅 GPU Linux VM 大小。
警告
使用本文所述方法之外的其他方法安装 NVIDIA 驱动程序,可能会导致无法按预期完成驱动程序安装。 Microsoft和 NVIDIA 不支持此安装。 若要确保适当的功能和支持,请仅遵循安装步骤并使用本文中指定的驱动程序版本。
CUDA 驱动程序
NVIDIA 为 NCasT4_v3 VM 分发 CUDA 驱动程序。
支持的 CUDA 驱动程序
有关最新的 CUDA 驱动程序和支持的 OS,请访问 NVIDIA 网站。 确保安装或升级到分发版支持的最新 CUDA 驱动程序。
CUDA 驱动程序安装
有关 CUDA 驱动程序安装,请访问 NVIDIA 网站。
验证 CUDA 驱动程序安装
运行 nvidia-smi。 如果安装了驱动程序,NVIDIA SMI 会将 GPU-Util 列为 N/A,直到在 VM 上运行 GPU 工作负荷。
GRID 驱动程序
Microsoft重新分发用于NCasT4_v3的 NVIDIA GRID 驱动程序安装程序,以及用作虚拟工作站或虚拟应用程序的NVadsA10_v5 VM。
支持的 GRID 驱动程序
仅在这些 VM 上安装这些 GRID 驱动程序,并且仅在下表中列出的操作系统上安装这些 GRID 驱动程序。 这些驱动程序包括Azure中 GRID 虚拟 GPU (vGPU) 软件的许可。 无需设置 NVIDIA vGPU 软件许可证服务器。
NCasT4_v3系列是唯一支持 GRID 驱动程序的非 NV GPU VM 系列。
| VM 系列 | GPU | GRID 驱动程序 | 支持的 Linux OS 版本 |
|---|---|---|---|
| NCasT4_v3 | NVIDIA Tesla T4 GPU (16GB) | vGPU20 | • Ubuntu 24.04 LTS • Ubuntu 22.04 LTS • Ubuntu 20.04 LTS • Red Hat Enterprise Linux (RHEL) 9.4、9.6、9.7 • Red Hat Enterprise Linux (RHEL) 8.10 |
| NVadsA10_v5 | NVIDIA A10 GPU (24GB) | vGPU18.8 | • Ubuntu 24.04 LTS • Ubuntu 22.04 LTS • Ubuntu 20.04 LTS • Red Hat Enterprise Linux (RHEL) 9.4、9.6、9.7 • Red Hat Enterprise Linux (RHEL) 8.10 |
有关特定 vGPU 和驱动程序分支版本的详细信息,请访问 NVIDIA 网站。
GRID 驱动程序安装
确保禁用安全启动和 vTPM。
安装前提条件。
Ubuntu:
sudo apt update sudo apt install -y build-essentialRHEL (8.10、9.4、9.6、9.7):
sudo yum check-update sudo yum install -y make automake gcc gcc-c++ kernel-devel-$(uname -r) kernel-headers-$(uname -r)下载 Linux 驱动程序。
a. 对于 NVadsA10_v5:
wget -O ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run https://download.microsoft.com/download/2a04ca6a-9eec-40d9-9564-9cdea1ab795f/NVIDIA-Linux-x86_64-570.211.01-grid-azure.run安装驱动程序。
a. 对于 NCasT4_v3:
sudo chmod +x ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.run sudo ./NVIDIA-Linux-x86_64-595.58.03-grid-azure.runb. 对于 NVadsA10_v5:
sudo chmod +x ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run sudo ./NVIDIA-Linux-x86_64-570.211.01-grid-azure.run
验证 GRID 驱动程序安装
运行 nvidia-smi。 如果安装了驱动程序,NVIDIA SMI 会将 GPU-Util 列为 N/A,直到在 VM 上运行 GPU 工作负荷。
疑难解答
可以使用
nvidia-smi设置持久性模式,以便在需要查询卡时该命令的输出更快。 若要设置持久性模式,请运行nvidia-smi -pm 1。 如果 VM 重新启动,则模式设置将消失。 始终可以编写模式设置脚本,以在启动时运行。如果作业被 GPU 上的 ECC 错误中断(可纠正或无法纠正),请先检查 GPU 是否符合 Nvidia 的任何 ECC 错误的 RMA 标准。 如果 GPU 符合 RMA 的条件,请联系支持人员获取服务;否则,请重启 VM 以重新附加 GPU,如下所示。 入侵性较低的方法(如
nvidia-smi -r)不适用于Azure中部署的虚拟化解决方案。
后续步骤
- 若要捕获安装了 NVIDIA 驱动程序的 Linux VM 映像,请参阅如何通用化和捕获 Linux 虚拟机。