在 Azure Databricks 中使用 Databricks IDE 扩展,在集群、文件或笔记本上运行文件,作为作业

Databricks IDE 扩展允许你在集群上运行 Python 代码,或者在 Azure Databricks 中运行 Python、R、Scala 或 SQL 代码或笔记本,作为工作。

这些信息假设你已经安装并设置了Databricks IDE扩展。 参见 安装Databricks IDE扩展。

注意

请使用 Databricks Connect 在 Visual Studio Code 中调试代码或笔记本。 请参见 使用 Databricks IDE 扩展通过 Databricks Connect 调试代码 和 使用 Databricks IDE 扩展通过 Databricks Connect 运行和调试笔记本单元。

在群集上运行 Python 文件

注意

使用无服务器计算时,此功能不可用。

要使用 Databricks IDE 扩展在 Azure Databricks 群集上运行 Python 文件,请先打开该扩展和你的项目:

  1. 打开要在群集上运行的 Python 文件。

  2. 执行下列操作之一:

    • 在文件编辑器的标题栏中,单击“在 Databricks 上运行”图标,然后单击“上传并运行文件”。

      从图标上传并运行文件

    • 在“资源管理器”视图(视图>资源管理器)中,右键单击该文件,然后从上下文菜单中选择“在 Databricks 上运行”或“上传并运行文件”>。

      从上下文菜单上传并运行文件

该文件在群集上运行,输出在“调试控制台”(>“查看”“调试控制台”)中可用。

将 Python 文件作为作业运行

若要使用 Databricks IDE 扩展程序将 Python 文件作为 Azure Databricks 作业运行,请先打开该扩展和项目:

  1. 打开要作为作业运行的 Python 文件。

  2. 执行下列操作之一:

    • 在文件编辑器的标题栏中,单击“在 Databricks 上运行”图标,然后单击“将文件作为工作流运行”。

      从图标将文件作为工作流运行

    • 在“资源管理器”视图(“视图”>“资源管理器”)中,右键单击该文件,然后从上下文菜单中选择“在 Databricks 上运行”>“将文件作为工作流运行”。

      从上下文菜单将文件作为工作流运行

此时会显示一个新的编辑器选项卡,其标题为“Databricks 作业运行”。 该文件将在工作区中作为作业运行,所有输出将显示在新编辑器选项卡的“输出”区域中。

若要查看有关作业运行的信息,请单击新的“Databricks 作业运行”编辑器选项卡中的“任务运行 ID”链接。工作区随即会打开,作业运行详细信息显示在工作区中。

将 Python、R、Scala 或 SQL 笔记本作为作业运行

若要使用 Databricks IDE 扩展将笔记本作为 Azure Databricks 作业运行,并且该扩展和你的项目均已打开:

  1. 打开要作为作业运行的笔记本。

    提示

    若要将 Python、R、Scala 或 SQL 文件转换为 Azure Databricks 笔记本,请将注释 # Databricks notebook source 添加到文件的开头,并在每个单元格之前添加注释 # COMMAND ----------。 有关详细信息,请参阅 将文件转换为笔记本。

    格式化为 Databricks 笔记本1 的 Python 代码文件

  2. 执行下列操作之一:

    • 在笔记本文件编辑器的标题栏中,单击“在 Databricks 上运行”图标,然后单击“将文件作为工作流运行”。

    注意

    如果“在 Databricks 上作为工作流运行”不可用,请参阅创建自定义运行配置。

    • 在“资源管理器”视图(“视图”>“资源管理器”)中,右键单击该笔记本,然后从上下文菜单中选择“在 Databricks 上运行”>“以工作流方式运行文件”。

此时会显示一个新的编辑器选项卡,其标题为“Databricks 作业运行”。 笔记本在工作区中作为作业运行。 笔记本及其输出显示在新编辑器选项卡的“输出”区域中。

若要查看有关作业运行的信息,请单击“Databricks 作业运行”编辑器选项卡中的“任务运行 ID”链接。工作区随即会打开,作业运行详细信息显示在工作区中。

创建自定义运行配置

Databricks IDE 扩展的自定义运行配置允许你将自定义参数传递给作业或笔记本,或为不同文件创建不同的运行设置。 有关详细信息,请参阅 Visual Studio Code 文档中的启动配置。

若要创建自定义运行配置,请在 Visual Studio Code 的主菜单中单击“运行”>“添加配置”。 然后为基于群集的运行配置选择“Databricks”,或者为基于作业的运行配置选择“Databricks: 工作流”。

例如,以下自定义运行配置将修改将文件作为工作流运行启动命令,以将 --prod 参数传递给作业:

{
  "version": "0.2.0",
  "configurations": [
    {
      "type": "databricks-workflow",
      "request": "launch",
      "name": "Run on Databricks as Workflow",
      "program": "${file}",
      "parameters": {},
      "args": ["--prod"]
    }
  ]
}

提示

如果您想使用 Python 配置并利用作为扩展设置一部分的 Databricks Connect 身份验证,请将 "databricks": true 添加到 "type": "python" 配置中。