Apache spark 为Spark应用程序设置Cloudera应用程序标记
我在spark应用程序中设置了Apache spark 为Spark应用程序设置Cloudera应用程序标记,apache-spark,yarn,cloudera,cloudera-manager,Apache Spark,Yarn,Cloudera,Cloudera Manager,我在spark应用程序中设置了spark.warn.tags,打印时在配置中也可见。 但Cloudera manager无法在纱线应用程序的应用程序标记中检测到它 应用程序标记是否映射到spark应用程序的spark.Thread.tags?我想我找到了解决方案。 调用spark submit时设置spark.Thread.tags时,cloudera manager会检测到它。所以我相信在创建spark上下文之前需要它,因此在提交时它必须作为conf传递 这就是如何将其传递给spark sub
spark.warn.tags
,打印时在配置中也可见。
但Cloudera manager无法在纱线应用程序的应用程序标记中检测到它
应用程序标记是否映射到spark应用程序的spark.Thread.tags?我想我找到了解决方案。
调用spark submit时设置spark.Thread.tags时,cloudera manager会检测到它。所以我相信在创建spark上下文之前需要它,因此在提交时它必须作为conf传递
这就是如何将其传递给spark submit
--conf spark.warn.tags=标签名