Apache spark EMR 5.13:Spark 2.3.0用户界面显示执行者仍然活着
自从我升级到Apache spark EMR 5.13:Spark 2.3.0用户界面显示执行者仍然活着,apache-spark,yarn,emr,amazon-emr,Apache Spark,Yarn,Emr,Amazon Emr,自从我升级到EMR 5.13,我就在Spark&warnui上看到了奇怪的指标 在这种情况下: 纱线显示流程已完成 Ganglia显示集群自上次(第118次)作业完成以来一直处于空闲状态 SparkUI还显示我的118项任务都已完成 即使如此,SparkUI报告所有执行者在上一个作业完成后仍处于活动状态(撰写本文时超过1小时)。 这可能是UI故障还是发生了其他问题 框架/平台: EMR 5.13 Spark 2.3.0 Hive 2.3.2 Hadoop:Amazon 2.8.3
EMR 5.13
,我就在Spark
&warn
ui上看到了奇怪的指标
在这种情况下:
显示流程已完成纱线
显示集群自上次(第118次)作业完成以来一直处于空闲状态Ganglia
UI还显示我的118项任务都已完成Spark
Spark
UI报告所有执行者在上一个作业完成后仍处于活动状态
(撰写本文时超过1小时)。
这可能是UI故障还是发生了其他问题 框架/平台:
EMR 5.13
Spark 2.3.0
Hive 2.3.2
Hadoop:Amazon 2.8.3