Python 如何在Pyspark中捕获日志级错误和警告?
我曾尝试将日志级别设置为Python 如何在Pyspark中捕获日志级错误和警告?,python,logging,pyspark,Python,Logging,Pyspark,我曾尝试将日志级别设置为error或warn,但想知道如何捕获这两个级别 我试过Pypark sc.setLogLevel("ERROR") sc.setLogLevel("WARN") 在Debug中,我得到了很多额外的信息,而info或default也是如此, 如果有人能为仅获取错误和警告提供更好的解决方案,我们将不胜感激。如果您将其设置为WARN,它也将捕获错误 它是一个分层的日志级结构 ERROR在层次结构中高于WARN,因此如果LogLevel设置为ERROR,则WARN日志将被忽
error
或warn
,但想知道如何捕获这两个级别
我试过Pypark
sc.setLogLevel("ERROR")
sc.setLogLevel("WARN")
在Debug
中,我得到了很多额外的信息,而info
或default
也是如此,
如果有人能为仅获取错误和警告提供更好的解决方案,我们将不胜感激。如果您将其设置为
WARN
,它也将捕获错误
它是一个分层的日志级结构
ERROR
在层次结构中高于WARN
,因此如果LogLevel
设置为ERROR
,则WARN
日志将被忽略。
但是由于WARN
在层次结构中低于ERROR
,并且您将LogLevel
设置为WARN
,因此它也将显示ERROR
日志