Apache spark 查找Spark应用程序停止的原因

Apache spark 查找Spark应用程序停止的原因,apache-spark,Apache Spark,我的Spark应用程序有时会因为HDFS故障、OutOfMemoryError或其他问题而停止 我知道我们可以定期为历史服务器存储数据,但这可能会影响空间和性能 我希望只记录相关的错误消息,而不是历史服务器中的所有信息消息 是否可以控制历史记录服务器将打印哪些邮件?您可以设置此属性 log4j.logger.org.apache.spark.deploy.history=错误 在log4j.properties文件中

我的Spark应用程序有时会因为HDFS故障、OutOfMemoryError或其他问题而停止

我知道我们可以定期为历史服务器存储数据,但这可能会影响空间和性能

我希望只记录相关的错误消息,而不是历史服务器中的所有信息消息


是否可以控制历史记录服务器将打印哪些邮件?

您可以设置此属性

log4j.logger.org.apache.spark.deploy.history=错误

在log4j.properties文件中