Java Hadoop MapReduce仅在特定时间间隔后生成日志文件?

Java Hadoop MapReduce仅在特定时间间隔后生成日志文件?,java,hadoop,mapreduce,Java,Hadoop,Mapreduce,因此,我已经尝试运行Hadoop MapReduce作业一段时间了,在它成功开始运行(所有错误都已解决)之后,我想检查日志文件中捕获的stdout的日志文件,但不知何故,我发现并非每次都生成日志文件。(有时会来,有时不会) 我正在使用一个输出目录(/user/hduser/output\u dir),删除内容并再次使用该目录(以避免跟踪如此多的输出目录),但日志文件指示对其进行最后更改的时间,这与我上次运行作业的时间不匹配。 另外,/user/hduser/output\u dir中的日志文件与

因此,我已经尝试运行Hadoop MapReduce作业一段时间了,在它成功开始运行(所有错误都已解决)之后,我想检查日志文件中捕获的stdout的日志文件,但不知何故,我发现并非每次都生成日志文件。(有时会来,有时不会)

我正在使用一个输出目录(
/user/hduser/output\u dir
),删除内容并再次使用该目录(以避免跟踪如此多的输出目录),但日志文件指示对其进行最后更改的时间,这与我上次运行作业的时间不匹配。 另外,
/user/hduser/output\u dir
中的日志文件与
$HADOOP\u HOME/logs/userlogs
不匹配 这是一个已知的问题,有什么解决办法吗?我在任何地方都找不到答案。 谢谢你的帮助


编辑-因此我们发现日志文件仅在特定的时间间隔后才被写入,因此如果作业在此时间内运行两次,则不会为此写入新的日志文件。为什么会这样?如果可能的话,我如何使用一些配置更改来覆盖它?

集群中有多少节点?任务日志将位于运行任务的节点上的logs文件夹中,这可能解释了日志文件的不一致性。只有2个节点。只有一个节点被用作输入文件非常小。您100%确定丢失的日志不在第二个“其他”节点上吗?