Hadoop 我们如何分配异构集群中不同数量的还原器?

Hadoop 我们如何分配异构集群中不同数量的还原器?,hadoop,load-balancing,yarn,reducers,Hadoop,Load Balancing,Yarn,Reducers,我们的系统有一个由5台主机组成的集群(例如,数据节点或计算机从机…)。现在,我想为这些主机分配不同数量的还原器,因为一台主机速度较慢。我们正在使用Hadoop纱线。资源管理器(MapReduce1中称为作业跟踪器)始终将平均数量的还原器分配给5台主机。我是否可以限制特定主机的还原器数量?例如,我想要的是一个有40个减速机的作业,4台快速计算机有36个减速机(例如,每个主机有9个减速机),而慢速计算机只有4个减速机 在hadoop集群中拥有异构系统是完全可能的,也是一种常见的现象。通常,随着集群不

我们的系统有一个由5台主机组成的集群(例如,数据节点或计算机从机…)。现在,我想为这些主机分配不同数量的还原器,因为一台主机速度较慢。我们正在使用Hadoop纱线。资源管理器(MapReduce1中称为作业跟踪器)始终将平均数量的还原器分配给5台主机。我是否可以限制特定主机的还原器数量?例如,我想要的是一个有40个减速机的作业,4台快速计算机有36个减速机(例如,每个主机有9个减速机),而慢速计算机只有4个减速机

在hadoop集群中拥有异构系统是完全可能的,也是一种常见的现象。通常,随着集群不断变大,从而水平扩展,不同配置的新节点会添加到集群中

在这种情况下,为了使配置适用于特定节点或一组节点,我们需要相应地修改这些主机上的配置

例如,在Hortonworks数据平台中,集群通过Ambari进行管理,可以利用主机配置组的概念来实现这一目的

有关更多信息,请参阅以下链接:

另请参见下面的链接,其中讨论的是在节点级别增加纱线容器的数量。在您的案例中也是如此,这与此处讨论的用例相反:

另一个有用的链接: