Apache pig 运行Pig脚本时获取异常
在大约300GB的数据集上运行Pig脚本时,我遇到以下错误 错误:超出计数器数量限制-计数器=120限制=120Apache pig 运行Pig脚本时获取异常,apache-pig,Apache Pig,在大约300GB的数据集上运行Pig脚本时,我遇到以下错误 错误:超出计数器数量限制-计数器=120限制=120 有人知道如何在不修改清管器属性文件中的计数器配置的情况下解决问题吗?这不能作为正确答案,因为您需要修改配置文件。我认为在不修改一些配置文件的情况下,目前没有任何方法可以做到这一点 现在这是纯粹的吹毛求疵,但实际上你可以在不修改清管器属性的情况下做到这一点。您只需在Hadoop配置文件中配置计数器限制 根据Hadoop版本,将mapreduce.job.counters.max或map
有人知道如何在不修改清管器属性文件中的计数器配置的情况下解决问题吗?这不能作为正确答案,因为您需要修改配置文件。我认为在不修改一些配置文件的情况下,目前没有任何方法可以做到这一点 现在这是纯粹的吹毛求疵,但实际上你可以在不修改清管器属性的情况下做到这一点。您只需在Hadoop配置文件中配置计数器限制 根据Hadoop版本,将mapreduce.job.counters.max或mapreduce.job.counters.limit添加到文件mapred-site.xml中。例如
mapreduce.job.counters.limit
256
请记住重新启动所有节点管理器以及历史记录服务器
<property>
<name>mapreduce.job.counters.limit</name>
<value>256</value>
</property>