Warning: file_get_contents(/data/phpspider/zhask/data//catemap/8/logging/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python 如何在Pyspark中捕获日志级错误和警告?_Python_Logging_Pyspark - Fatal编程技术网

Python 如何在Pyspark中捕获日志级错误和警告?

Python 如何在Pyspark中捕获日志级错误和警告?,python,logging,pyspark,Python,Logging,Pyspark,我曾尝试将日志级别设置为error或warn,但想知道如何捕获这两个级别 我试过Pypark sc.setLogLevel("ERROR") sc.setLogLevel("WARN") 在Debug中,我得到了很多额外的信息,而info或default也是如此, 如果有人能为仅获取错误和警告提供更好的解决方案,我们将不胜感激。如果您将其设置为WARN,它也将捕获错误 它是一个分层的日志级结构 ERROR在层次结构中高于WARN,因此如果LogLevel设置为ERROR,则WARN日志将被忽

我曾尝试将日志级别设置为
error
warn
,但想知道如何捕获这两个级别

我试过Pypark

sc.setLogLevel("ERROR")
sc.setLogLevel("WARN")
Debug
中,我得到了很多额外的信息,而
info
default
也是如此,
如果有人能为仅获取错误和警告提供更好的解决方案,我们将不胜感激。

如果您将其设置为
WARN
,它也将捕获
错误

它是一个分层的日志级结构

  • ERROR
    在层次结构中高于
    WARN
    ,因此如果
    LogLevel
    设置为
    ERROR
    ,则
    WARN
    日志将被忽略。 但是由于
    WARN
    在层次结构中低于
    ERROR
    ,并且您将
    LogLevel
    设置为
    WARN
    ,因此它也将显示
    ERROR
    日志