hadoop将mapper、partitioner和combiner的输出文件存储在哪里?
我正在一个伪分布式hadoop设置上运行mapreduce作业。在哪里可以找到映射器、分区器和合并器的输出文件?是否有方法检查每个操作的输出?MapReduce中的中间输出存储在运行任务的节点上的本地临时存储器中(不在HDFS中) 您可以在Hadoop conf中查找本地临时目录,然后逐个节点手动检查它们 一般来说,可能有更好的方法通过日志消息或计数器来完成您认为需要做的事情。您可以做的另一件事是关闭还原器,以便映射器直接写入HDFS,以便您可以检查它hadoop将mapper、partitioner和combiner的输出文件存储在哪里?,hadoop,mapreduce,Hadoop,Mapreduce,我正在一个伪分布式hadoop设置上运行mapreduce作业。在哪里可以找到映射器、分区器和合并器的输出文件?是否有方法检查每个操作的输出?MapReduce中的中间输出存储在运行任务的节点上的本地临时存储器中(不在HDFS中) 您可以在Hadoop conf中查找本地临时目录,然后逐个节点手动检查它们 一般来说,可能有更好的方法通过日志消息或计数器来完成您认为需要做的事情。您可以做的另一件事是关闭还原器,以便映射器直接写入HDFS,以便您可以检查它