Hadoop HDFS平衡,如何平衡HDFS数据

Hadoop HDFS平衡,如何平衡HDFS数据,hadoop,hdfs,Hadoop,Hdfs,我们有HDP版本-2.6.4。在datanode机器上,我们可以看到hdfs数据不平衡。在某些磁盘上,我们有不同的大小 sdb 11G and sdd 17G /dev/sdd 20G 3.0G 17G 15% /grid/sdd /dev/sdb 20G 11G 9.3G 53% /grid/sdb <-- Why disks are not balanced? 在我运行它之后,我们得到了相同的hdfs大小 /dev/sdd 20G 3.0G 17G 15% /grid/sd

我们有HDP版本-2.6.4。在datanode机器上,我们可以看到hdfs数据不平衡。在某些磁盘上,我们有不同的大小

sdb 11G 
and 
sdd 17G


/dev/sdd 20G 3.0G 17G 15% /grid/sdd 
/dev/sdb 20G 11G 9.3G 53% /grid/sdb <-- Why disks are not balanced?
在我运行它之后,我们得到了相同的hdfs大小

/dev/sdd 20G 3.0G 17G 15% /grid/sdd
/dev/sdb 20G 11G 9.3G 53% /grid/sdb


more /tmp/balancer-out.log Time Stamp Iteration# Bytes Already Moved Bytes Left To Move Bytes Being Moved The cluster is balanced. Exiting... Mar 7, 2019 5:02:34 PM 0 0 B 0 B 0 B Mar 7, 2019 5:02:34 PM Balancing took 1.453 seconds
所以实际上,我们看不到hdfs中的磁盘平衡有什么不同


如何平衡hdfs数据,使所有磁盘都具有相同的使用大小?

我不是这方面的专家,我只是刚刚开始研究它。我想你应该使用,而不是平衡器。

我不是这方面的专家,我只是刚刚开始研究它。我想你应该用的是,而不是平衡器

/dev/sdd 20G 3.0G 17G 15% /grid/sdd
/dev/sdb 20G 11G 9.3G 53% /grid/sdb


more /tmp/balancer-out.log Time Stamp Iteration# Bytes Already Moved Bytes Left To Move Bytes Being Moved The cluster is balanced. Exiting... Mar 7, 2019 5:02:34 PM 0 0 B 0 B 0 B Mar 7, 2019 5:02:34 PM Balancing took 1.453 seconds