Compartir a través de

用于推理的 Docker 映像

Azure 机器学习为推理(评分)提供预生成的 Docker 映像。 这些映像包括常用的机器学习框架和常用的 Python 包。 根据需要扩展映像以添加更多包。

为何使用预生成映像

使用预生成的映像可通过多种方式提供帮助:

  • 降低模型部署延迟
  • 提高部署成功率
  • 避免在部署期间生成容器映像
  • 仅包含所需的依赖项和最低访问权限,以保持镜像较小

用于推理的预生成 Docker 映像列表

重要

下表中的列表仅包含 Azure 机器学习 当前支持的推理 Docker 映像。

  • 所有镜像均以非管理员用户身份运行。
  • 使用 latest 标记。 预生成的映像发布到Microsoft容器注册表(MCR)。 若要查看可用的标记,请转到 MCR GitHub 存储库
  • 如果需要特定标记,Azure 机器学习支持比latest早至6 个月的标记。

推理最小基映像

框架版本 CPU/GPU 预安装的包 MCR 路径
暂无 CPU 暂无 mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cpu-inference:latest
暂无 GPU 暂无 mcr.microsoft.com/azureml/minimal-ubuntu22.04-py39-cuda11.8-gpu-inference:latest
暂无 CPU 暂无 mcr.microsoft.com/azureml/minimal-py312-inference:latest

注意

Azure 机器学习支持 特选环境。 若要在 Studio 中浏览特选环境,请转到 “管理工作室中的环境 ”并应用筛选器 Tags: Inferencing