失败的任务和被移除的执行器都会耗费时间。 当执行者被移除时,Spark 会重新执行其未完成的任务。 当 Spark 作业失败时,运行该 Spark 作业的查询或任务也会失败。 使用本页面了解作业失败或执行者被移除的原因,并判断这种行为是预期中的还是需要修复的问题。
当 作业时间线 显示失败的作业或已移除的执行器时,使用此页面,例如:
如果时间线没有显示失败作业或已移除的执行器,请查看 作业时间线 中的其他模式,并利用本指南中的其他页面来诊断问题。 请参见 使用 Spark UI 诊断成本和性能问题。
执行者被解除的最常见原因是:
自动缩放:在这种情况下,这是预期的,不是错误。 请参阅启用自动缩放。
执行器内存不足:参见 Spark 内存问题。
作业失败
如果你看到任何失败的作业,点击它们打开它们的页面。 然后向下滚动以查看失败的阶段和失败原因:
你可能会遇到通用错误。 点击描述中的链接查看更多细节:
如果你往下滚动,可以看到为什么每个任务都失败了。 在这种情况下,似乎是内存问题引起的:
故障执行器
要找出执行器失败的原因,首先查看计算实例的事件日志,看看是否有关于执行器失败的说明。
查找解释执行器丢失的事件。 例如,你可能会看到提示集群正在调整大小或竞价实例正在丢失的消息。
- 如果你的计算已使用自动缩放调整大小,这是预期的,不是错误。 请参阅启用自动缩放。
如果你在事件日志中没有看到任何信息,请回到 Spark UI,点击 Executors 标签:
在此处可以获取执行程序失败时的日志:
下一步
如果你已遇到此情况,最可能的解释是内存问题。 下一步是深入分析内存问题。 请参阅 Spark 内存问题。