失败的作业或执行器已被删除

失败的任务和被移除的执行器都会耗费时间。 当执行者被移除时,Spark 会重新执行其未完成的任务。 当 Spark 作业失败时,运行该 Spark 作业的查询或任务也会失败。 使用本页面了解作业失败或执行者被移除的原因,并判断这种行为是预期中的还是需要修复的问题。

当 作业时间线 显示失败的作业或已移除的执行器时,使用此页面,例如:

失败的作业

如果时间线没有显示失败作业或已移除的执行器,请查看 作业时间线 中的其他模式,并利用本指南中的其他页面来诊断问题。 请参见 使用 Spark UI 诊断成本和性能问题。

执行者被解除的最常见原因是:

作业失败

如果你看到任何失败的作业,点击它们打开它们的页面。 然后向下滚动以查看失败的阶段和失败原因:

失败原因

你可能会遇到通用错误。 点击描述中的链接查看更多细节:

失败说明

如果你往下滚动,可以看到为什么每个任务都失败了。 在这种情况下,似乎是内存问题引起的:

失败任务数

故障执行器

要找出执行器失败的原因,首先查看计算实例的事件日志,看看是否有关于执行器失败的说明。

事件日志

查找解释执行器丢失的事件。 例如,你可能会看到提示集群正在调整大小或竞价实例正在丢失的消息。

  • 如果你的计算已使用自动缩放调整大小,这是预期的,不是错误。 请参阅启用自动缩放。

如果你在事件日志中没有看到任何信息,请回到 Spark UI,点击 Executors 标签:

“执行程序”选项卡

在此处可以获取执行程序失败时的日志:

失败的执行程序示例

下一步

如果你已遇到此情况,最可能的解释是内存问题。 下一步是深入分析内存问题。 请参阅 Spark 内存问题。