如何在 Azure 机器学习工作室中使用批处理终结点
本文介绍如何在 Azure 机器学习工作室中使用批处理终结点执行批量评分。 有关详细信息,请参阅什么是 Azure 机器学习终结点?。
本文介绍:
- 为 MLflow 模型创建一个附带无代码体验的批处理终结点
- 检查批处理终结点详细信息
- 启动批量评分作业
- Azure 机器学习工作室中的批处理终结点功能概述
重要
处理启用了专用链接的工作区时,可以使用 Azure 机器学习工作室创建和管理批处理终结点。 但是,无法从 UI 调用它们。 请改用 Azure ML CLI v 来创建作业。 有关如何使用它的详细信息,请参阅调用批处理终结点来启动批处理评分作业。
先决条件
Azure 订阅 - 如果没有 Azure 订阅,请在开始前创建帐户。 立即试用 Azure 机器学习。
示例存储库 - 克隆 AzureML 示例存储库。 本文将使用
/cli/endpoints/batch
中的资产。可在其中运行批量评分工作流的计算目标。 有关创建计算目标的详细信息,请参阅在 Azure 机器学习工作室中创建计算目标。
注册机器学习模型。
创建批处理终结点
可通过两种方法在 Azure 机器学习工作室中创建批处理终结点:
在“终结点”页中,选择“批处理终结点”,然后选择“+ 创建” 。
OR
在“模型”页中,选择要部署的模型,然后选择“部署到批处理终结点”。
提示
如果使用的是 MLflow 模型,则可以使用无代码批处理终结点创建方式。 也就是说,你无需准备评分脚本和环境,系统会自动生成这两者。 有关详细信息,请参阅使用 MLflow 和 Azure 机器学习训练和跟踪 ML 模型。
完成向导中的所有步骤以创建批处理终结点和部署。
检查批处理终结点详细信息
创建批处理终结点后,从“终结点”页中选择它可查看详细信息。
启动批量评分作业
批量评分工作负载以脱机作业的形式运行。 默认情况下,批量评分将评分输出存储在 Blob 存储中。 还可以配置输出位置并覆盖某些设置以获得最佳性能。
选择“+ 创建作业”:
可以在从下拉列表提交作业时更新默认部署:
覆盖设置
可以在启动批量评分作业时覆盖某些设置。 例如,可以覆盖设置以更好地利用计算资源或提高性能。 若要替代设置,请选择“替代部署设置”并提供设置。 有关详细信息,请参阅使用批处理终结点。
使用不同的输入选项启动批量评分作业
可以使用两个选项在 Azure 机器学习工作室中指定数据输入:
使用“已注册数据集”:
注意
在预览期,仅支持 FileDataset。
OR
使用“数据存储”:
可以指定 AzureML 注册的数据存储,或者,如果数据公开可用,请指定公共路径。
配置输出位置
默认情况下,批量评分结果存储在工作区的默认 blob 存储中。 结果位于以作业名称(系统生成的 GUID)命名的文件夹中。
若要更改结果的存储位置,请在启动作业时提供 blob 存储和输出路径。
重要
必须使用唯一的输出位置。 如果输出文件已存在,批量评分作业将失败。
所有已提交作业的摘要
若要查看终结点的所有已提交作业的摘要,请选择终结点,然后选择“运行”选项卡。
检查批量评分结果
若要了解如何查看评分结果,请参阅使用批处理终结点。
将部署添加到现有批处理终结点
在 Azure 机器学习工作室中,可通过两种方法将部署添加到现有批处理终结点:
在“终结点”页中,选择要将新部署添加到的批处理终结点。 选择“+ 添加部署”,然后完成向导以添加新部署。
OR
在“模型”页中,选择要部署的模型。 然后从下拉列表中选择“部署到批处理终结点”选项。 在向导中的“终结点”屏幕上,选择“现有” 。 完成向导以添加新部署。
更新默认部署
如果终结点有多个部署,则其中一个部署是默认部署。 默认部署会接收发送到终结点的 100% 流量。 若要更改默认部署,请使用以下步骤:
- 在“终结点”页上选择终结点。
- 选择“更新默认部署”。 在“详细信息”选项卡中,选择要设置为默认部署的部署,然后选择“更新” 。
删除批处理终结点和部署
若要删除终结点,请从“终结点”页中选择终结点,然后选择删除 。
警告
删除终结点也会删除该终结点的所有部署。
若要删除部署,请从“终结点”页中选择终结点,选择相应部署,然后选择删除 。
后续步骤
本文介绍了如何创建和调用批处理终结点。 有关 Azure 机器学习的详细信息,请参阅下述其他文章: