Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark Spark对worker中的每个任务都有不同的日志_Apache Spark - Fatal编程技术网

Apache spark Spark对worker中的每个任务都有不同的日志

Apache spark Spark对worker中的每个任务都有不同的日志,apache-spark,Apache Spark,是否可以在单个辅助进程中为任务使用不同的日志文件? 现在,我在worker中获得同一文件中的所有日志(用于不同的任务) 我使用的是spark standalone,日志目录位于spark_HOME/work您可以通过spark env.sh配置文件为每个工作人员配置spark_WORKER_DIR。通过更改此设置,默认情况下将更改日志的输出位置 有关更多信息,请参阅

是否可以在单个辅助进程中为任务使用不同的日志文件? 现在,我在worker中获得同一文件中的所有日志(用于不同的任务)


我使用的是spark standalone,日志目录位于spark_HOME/work

您可以通过
spark env.sh
配置文件为每个工作人员配置
spark_WORKER_DIR
。通过更改此设置,默认情况下将更改日志的输出位置

有关更多信息,请参阅