Warning: file_get_contents(/data/phpspider/zhask/data//catemap/4/unix/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 当我杀死一根纱线时会发生什么;s节点管理器_Apache Spark_Yarn_Hadoop2 - Fatal编程技术网

Apache spark 当我杀死一根纱线时会发生什么;s节点管理器

Apache spark 当我杀死一根纱线时会发生什么;s节点管理器,apache-spark,yarn,hadoop2,Apache Spark,Yarn,Hadoop2,假设有10个容器在这台机器上运行(5个是mapreduce任务,5个是spark on纱线执行器) 如果我杀死节点管理器,这10个容器的进程会发生什么 在重新启动节点管理器之前,我应该首先做什么?杀死节点管理器只会影响此特定节点的容器。重新启动/终止时,所有正在运行的容器都将丢失。一旦节点启动或nodemanager进程启动(如果应用程序/作业仍在运行),它们将重新启动。 注意:作业ApplicationMaster不应在此从属服务器上运行 当具有ApplicationMaster的节点死亡时会

假设有10个容器在这台机器上运行(5个是mapreduce任务,5个是spark on纱线执行器)

如果我杀死节点管理器,这10个容器的进程会发生什么


在重新启动节点管理器之前,我应该首先做什么?

杀死节点管理器只会影响此特定节点的容器。重新启动/终止时,所有正在运行的容器都将丢失。一旦节点启动或nodemanager进程启动(如果应用程序/作业仍在运行),它们将重新启动。 注意:作业ApplicationMaster不应在此从属服务器上运行

当具有ApplicationMaster的节点死亡时会发生什么?
在这种情况下,纱线会在其他节点上启动一个新的ApplicationMaster。在这种情况下,所有容器都重新启动

杀死nodemanager只会影响此特定节点的容器。重新启动/终止时,所有正在运行的容器都将丢失。一旦节点启动或nodemanager进程启动(如果应用程序/作业仍在运行),它们将重新启动。 注意:作业ApplicationMaster不应在此从属服务器上运行

当具有ApplicationMaster的节点死亡时会发生什么?
在这种情况下,纱线会在其他节点上启动一个新的ApplicationMaster。在这种情况下,所有容器都重新启动

根据hadoop 2.7.x dist回答:查看本文:

如果您没有将
warn.nodemanager.recovery.enabled
设置为true,则您的容器将被终止(spark或mapreduce或其他任何内容),但您的作业很可能会继续运行

您需要在您的环境中使用
hadoop conf | grep warn.nodemanager.recovery.dir
检查此属性。如果默认情况下为false,则无法阻止在重新启动imo时杀死这些容器。但是,如果希望恢复容器,可以尝试修改标志并为将来的情况设置其他必需属性


请看这篇文章:

根据hadoop 2.7.x dist回答:查看本文:

如果您没有将
warn.nodemanager.recovery.enabled
设置为true,则您的容器将被终止(spark或mapreduce或其他任何内容),但您的作业很可能会继续运行

您需要在您的环境中使用
hadoop conf | grep warn.nodemanager.recovery.dir
检查此属性。如果默认情况下为false,则无法阻止在重新启动imo时杀死这些容器。但是,如果希望恢复容器,可以尝试修改标志并为将来的情况设置其他必需属性


再看看这个:

我想你指的是当ResourceManager去世时会发生什么。NodeManager是管理每个从属节点上所有容器的工具。我无法回答您的问题,除非配置了高可用性(),在这种情况下什么都不会发生。我想你应该试着看看你自己!但是,我可以通过提问使您的问题更加有趣,即当具有ApplicationMaster的节点死亡时会发生什么?我想您指的是ResourceManager死亡时会发生什么。NodeManager是管理每个从属节点上所有容器的工具。我无法回答您的问题,除非配置了高可用性(),在这种情况下什么都不会发生。我想你应该试着看看你自己!但是,我可以通过提问,让您的问题变得更有趣:当具有ApplicationMaster的节点死亡时会发生什么?