如何在 Azure 机器学习工作室中使用批处理终结点

本文介绍如何在 Azure 机器学习工作室中使用批处理终结点执行批量评分。 有关详细信息,请参阅什么是 Azure 机器学习终结点?

本文介绍:

  • 为 MLflow 模型创建一个附带无代码体验的批处理终结点
  • 检查批处理终结点详细信息
  • 启动批量评分作业
  • Azure 机器学习工作室中的批处理终结点功能概述

重要

处理启用了专用链接的工作区时,可以使用 Azure 机器学习工作室创建和管理批处理终结点。 但是,无法从 UI 调用它们。 请改用 Azure ML CLI v 来创建作业。 有关如何使用它的详细信息,请参阅调用批处理终结点来启动批处理评分作业

先决条件

创建批处理终结点

可通过两种方法在 Azure 机器学习工作室中创建批处理终结点:

  • 在“终结点”页中,选择“批处理终结点”,然后选择“+ 创建” 。

    Screenshot of creating a batch endpoint/deployment from Endpoints page

OR

  • 在“模型”页中,选择要部署的模型,然后选择“部署到批处理终结点”。

    Screenshot of creating a batch endpoint/deployment from Models page

提示

如果使用的是 MLflow 模型,则可以使用无代码批处理终结点创建方式。 也就是说,你无需准备评分脚本和环境,系统会自动生成这两者。 有关详细信息,请参阅使用 MLflow 和 Azure 机器学习训练和跟踪 ML 模型

Screenshot of deploying an MLflow model

完成向导中的所有步骤以创建批处理终结点和部署。

Screenshot of batch endpoints/deployment review screen

检查批处理终结点详细信息

创建批处理终结点后,从“终结点”页中选择它可查看详细信息。

Screenshot of the check batch endpoints and deployment details

启动批量评分作业

批量评分工作负载以脱机作业的形式运行。 默认情况下,批量评分将评分输出存储在 Blob 存储中。 还可以配置输出位置并覆盖某些设置以获得最佳性能。

  1. 选择“+ 创建作业”:

    Screenshot of the create job option to start batch scoring

  2. 可以在从下拉列表提交作业时更新默认部署:

    Screenshot of using the deployment to submit a batch job

覆盖设置

可以在启动批量评分作业时覆盖某些设置。 例如,可以覆盖设置以更好地利用计算资源或提高性能。 若要替代设置,请选择“替代部署设置”并提供设置。 有关详细信息,请参阅使用批处理终结点

Screenshot of the overwrite setting when starting a batch job

使用不同的输入选项启动批量评分作业

可以使用两个选项在 Azure 机器学习工作室中指定数据输入:

  • 使用“已注册数据集”:

    注意

    在预览期,仅支持 FileDataset。

    Screenshot of selecting registered dataset as an input option

OR

  • 使用“数据存储”:

    可以指定 AzureML 注册的数据存储,或者,如果数据公开可用,请指定公共路径。

    Screenshot of selecting datastore as an input option

配置输出位置

默认情况下,批量评分结果存储在工作区的默认 blob 存储中。 结果位于以作业名称(系统生成的 GUID)命名的文件夹中。

若要更改结果的存储位置,请在启动作业时提供 blob 存储和输出路径。

重要

必须使用唯一的输出位置。 如果输出文件已存在,批量评分作业将失败。

Screenshot of optionally configuring output location

所有已提交作业的摘要

若要查看终结点的所有已提交作业的摘要,请选择终结点,然后选择“运行”选项卡。

Screenshot of summary of jobs submitted to a batch endpoint

检查批量评分结果

若要了解如何查看评分结果,请参阅使用批处理终结点

将部署添加到现有批处理终结点

在 Azure 机器学习工作室中,可通过两种方法将部署添加到现有批处理终结点:

  • 在“终结点”页中,选择要将新部署添加到的批处理终结点。 选择“+ 添加部署”,然后完成向导以添加新部署。

    Screenshot of add new deployment option

OR

  • 在“模型”页中,选择要部署的模型。 然后从下拉列表中选择“部署到批处理终结点”选项。 在向导中的“终结点”屏幕上,选择“现有” 。 完成向导以添加新部署。

    Screenshot of selecting an existing batch endpoint to add new deployment

更新默认部署

如果终结点有多个部署,则其中一个部署是默认部署。 默认部署会接收发送到终结点的 100% 流量。 若要更改默认部署,请使用以下步骤:

  1. 在“终结点”页上选择终结点。
  2. 选择“更新默认部署”。 在“详细信息”选项卡中,选择要设置为默认部署的部署,然后选择“更新” 。 Screenshot of updating default deployment

删除批处理终结点和部署

若要删除终结点,请从“终结点”页中选择终结点,然后选择删除 。

警告

删除终结点也会删除该终结点的所有部署。

若要删除部署,请从“终结点”页中选择终结点,选择相应部署,然后选择删除 。

后续步骤

本文介绍了如何创建和调用批处理终结点。 有关 Azure 机器学习的详细信息,请参阅下述其他文章: