Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 我的遗嘱执行人因优先购买权而丢失了什么?_Apache Spark_Pyspark_Yarn - Fatal编程技术网

Apache spark 我的遗嘱执行人因优先购买权而丢失了什么?

Apache spark 我的遗嘱执行人因优先购买权而丢失了什么?,apache-spark,pyspark,yarn,Apache Spark,Pyspark,Yarn,My Pyspark作业抛出以下错误消息:- ERROR YarnScheduler:xxx.xxx上的executor 100丢失:主机xxx.xxx上的Container Container\u xxx被抢占 这是什么意思? 我如何防止它?您是群集管理员吗?如果是这样,您可以禁用抢占。你知道你是在运行容量调度器还是公平调度器吗?我没有管理员权限。我使用的是一个繁忙的集群,有数百个用户和多个队列。我使用的队列是“FairOrderingPolicy”。那么您无法阻止这种情况发生。最好的尝试是看

My Pyspark作业抛出以下错误消息:-

ERROR YarnScheduler:xxx.xxx上的executor 100丢失:主机xxx.xxx上的Container Container\u xxx被抢占

这是什么意思?
我如何防止它?

您是群集管理员吗?如果是这样,您可以禁用抢占。你知道你是在运行容量调度器还是公平调度器吗?我没有管理员权限。我使用的是一个繁忙的集群,有数百个用户和多个队列。我使用的队列是“FairOrderingPolicy”。那么您无法阻止这种情况发生。最好的尝试是看看你是否可以提交到一个更高优先级的队列。我从来没有在Tez jobs中看到过这种情况。spark jobs是否在Tez jobs没有被抢占的情况下被抢占?或者Tez只是没有就此发出消息?您的spark jobs是否比Tez jobs运行的时间更长?您是集群的管理员吗?如果是这样,您可以禁用抢占。你知道你是在运行容量调度器还是公平调度器吗?我没有管理员权限。我使用的是一个繁忙的集群,有数百个用户和多个队列。我使用的队列是“FairOrderingPolicy”。那么您无法阻止这种情况发生。最好的尝试是看看你是否可以提交到一个更高优先级的队列。我从来没有在Tez jobs中看到过这种情况。是spark jobs被抢先而Tez jobs不抢先,还是Tez只是不给这个消息?你的spark jobs比你的Tez jobs运行的时间长吗?