Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 错误时,纱线上的火花会运行两次_Apache Spark_Yarn - Fatal编程技术网

Apache spark 错误时,纱线上的火花会运行两次

Apache spark 错误时,纱线上的火花会运行两次,apache-spark,yarn,Apache Spark,Yarn,我使用的模型是在纱线上产生火花,当我遇到问题时,火花会自动重新启动 无论成功或失败,我都要一丝不苟地跑一次 是否可以设置任何conf或api 我使用的是spark 1.5版。您必须将spark.Thread.maxAppAttempts属性设置为1。默认值为warn.resourcemanager.am.max尝试次数,默认值为2 通过代码设置属性: SparkConf conf = new SparkConf(); conf.set("spark.yarn.maxAppAttempts", "

我使用的模型是在纱线上产生火花,当我遇到问题时,火花会自动重新启动

无论成功或失败,我都要一丝不苟地跑一次

是否可以设置任何conf或api


我使用的是spark 1.5版。

您必须将
spark.Thread.maxAppAttempts
属性设置为1。默认值为
warn.resourcemanager.am.max尝试次数
,默认值为2

通过代码设置属性:

SparkConf conf = new SparkConf();
conf.set("spark.yarn.maxAppAttempts", "1");
通过spark submit提交作业时设置:

--conf spark.warn.maxapattempts=1


没关系,我想知道如何获得这个密钥“spark.Thread.maxAppAttempts”。我从未在源代码或文档中看到过它。谢谢,我在网站上看到过它。