作业的Python脚本任务

使用 Python 脚本任务运行 Python 文件。

Requirements

  • 必须将Python脚本上传到配置作业的用户可访问的位置。 Databricks 建议对Python脚本使用工作区文件。 请参阅什么是工作区文件?。

配置 Python 脚本任务

注释

作业界面会根据其他已配置的设置动态显示选项。

Databricks 建议不要使用 DBFS 根或装载来存储代码或数据。 相反,可以将 Python 脚本迁移到工作区文件或卷,或使用 URI 访问云对象存储。

开始配置 Python script 任务的流程:

  1. 在作业 UI 中导航到“任务”选项卡。

  2. 单击 “加号”图标。添加任务。

  3. 在 “任务名称 ”字段中输入名称。

  4. 在“类型”下拉菜单中,选择“Python script”。

配置数据源

在 Source 下拉菜单中,使用以下选项之一选择Python脚本的位置。

Workspace

使用工作区来配置使用工作区文件存储的 Python 脚本。

  1. 单击“路径”字段。 “选择 Python 文件”对话框随即出现。

  2. 浏览到 Python 脚本,单击以突出显示该文件,然后单击“确认”。

注释

可以使用此选项在 Databricks Git 文件夹中存储的 Python 脚本上配置任务。 Databricks 建议使用 Git 供应商选项和远程 Git 存储库对通过作业调度的资产进行版本控制。

DBFS/ADLS

使用 DBFS/ADLS 配置存储在卷、云对象存储位置或 DBFS 根中的 Python 脚本。

Databricks 建议将 Python 脚本存储在 Unity Catalog 卷或云对象存储中。

在 Path 字段中,输入Python脚本的 URI。 例如,dbfs:/path/to/script.py 或 abfss://container-name@storage-account-name.dfs.core.chinacloudapi.cn/path/to/script.py。

Git 服务提供商

使用 Git 提供程序 配置存储在远程 Git 存储库中的 Python 脚本。

UI 显示的选项取决于你是否已在其他地方配置 Git 提供程序。 只有一个远程 Git 存储库可用于作业中的所有任务。 请参阅 将 Git 与 Lakeflow 作业配合使用。

配置 git 引用后会显示“路径”字段。

输入 Python 脚本的相对路径,例如 etl/bronze/ingest.py。

Important

输入相对路径时,请不要以 / 或 ./ 开头。 例如,如果要访问的Python代码的绝对路径为 /etl/bronze/ingest.py,请在 etl/bronze/ingest.py 字段中输入 。

配置计算库和依赖库

  1. 使用计算选择或配置支持脚本中逻辑的群集。
  2. 如果使用 Serverless 计算,请使用“环境和库”字段选择、编辑或添加新环境。 请参阅 配置无服务器环境。
  3. 对于所有其他计算配置,请在Plus icon.Plus icon.依赖库下单击添加。 此时会显示 “添加依赖库 ”对话框。
    • 可以选择现有库或上传新库。
    • 只能使用存储在计算配置支持的位置中的库。 请参阅 Python 库支持。
    • 每个库源具有不同的流,用于选择或上传库。 请参阅 “安装库”。

完成作业配置

  1. (可选)将参数配置为作为 CLI 参数传递给 Python 脚本的字符串列表。 请参阅 “配置任务参数”。
  2. (可选)若要配置重试、运行持续时间或流式积压工作阈值或通知,请参阅 “高级任务设置”。
  3. 单击“保存任务”。

若要编辑、克隆、禁用或删除此任务,请参阅 Lakeflow 作业中的配置和编辑任务。

其他资源