Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 为Spark应用程序设置Cloudera应用程序标记_Apache Spark_Yarn_Cloudera_Cloudera Manager - Fatal编程技术网

Apache spark 为Spark应用程序设置Cloudera应用程序标记

Apache spark 为Spark应用程序设置Cloudera应用程序标记,apache-spark,yarn,cloudera,cloudera-manager,Apache Spark,Yarn,Cloudera,Cloudera Manager,我在spark应用程序中设置了spark.warn.tags,打印时在配置中也可见。 但Cloudera manager无法在纱线应用程序的应用程序标记中检测到它 应用程序标记是否映射到spark应用程序的spark.Thread.tags?我想我找到了解决方案。 调用spark submit时设置spark.Thread.tags时,cloudera manager会检测到它。所以我相信在创建spark上下文之前需要它,因此在提交时它必须作为conf传递 这就是如何将其传递给spark sub

我在spark应用程序中设置了
spark.warn.tags
,打印时在配置中也可见。 但Cloudera manager无法在纱线应用程序的
应用程序标记中检测到它


应用程序标记是否映射到spark应用程序的spark.Thread.tags?

我想我找到了解决方案。 调用spark submit时设置spark.Thread.tags时,cloudera manager会检测到它。所以我相信在创建spark上下文之前需要它,因此在提交时它必须作为conf传递

这就是如何将其传递给spark submit
--conf spark.warn.tags=标签名