Java 如何知道MapReduce作业是否已重新启动或是新的开始?
我有一个MapReduce作业,我使用Java 如何知道MapReduce作业是否已重新启动或是新的开始?,java,hadoop,mapreduce,crash-recovery,Java,Hadoop,Mapreduce,Crash Recovery,我有一个MapReduce作业,我使用job.waitForCompletion(true)运行它。如果一个或多个reducer任务在作业执行期间被终止或崩溃,则会重新启动整个MapReduce作业,并再次执行映射程序和reducer(文档)。以下是我的问题: 1] 在作业开始时,我们是否可以知道作业是重新启动的,还是由于上一次运行中的某些故障而重新启动的?(这让我想到了第二季度) 2] 柜台能帮忙吗?如果某些任务失败,导致整个作业重新启动,计数器的值是否会结转 3] Hadoop是否提供了任何
job.waitForCompletion(true)
运行它。如果一个或多个reducer任务在作业执行期间被终止或崩溃,则会重新启动整个MapReduce作业,并再次执行映射程序和reducer(文档)。以下是我的问题:
1] 在作业开始时,我们是否可以知道作业是重新启动的,还是由于上一次运行中的某些故障而重新启动的?(这让我想到了第二季度)
2] 柜台能帮忙吗?如果某些任务失败,导致整个作业重新启动,计数器的值是否会结转
3] Hadoop是否提供了任何内置的检查点方法来跟踪以前的计算,并帮助避免在失败/崩溃之前执行映射程序和还原程序所做的相同计算
对不起,如果问题的措辞不清楚的话。
谢谢你的帮助