博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Hadoop之 Balancer平衡速度
阅读量:6340 次
发布时间:2019-06-22

本文共 814 字,大约阅读时间需要 2 分钟。

1. dfs.datanode.max.transfer.threads

修改dfs.datanode.max.transfer.threads=4096 (如果运行HBase的话建议为16384),

指定用于在DataNode间传输block数据的最大线程数,老版本的对应参数为dfs.datanode.max.xcievers。

2. dfs.datanode.balance.bandwidthPerSec

修改dfs.datanode.balance.bandwidthPerSec=52428800,指定DataNode用于balancer的带宽为50MB,

这个根据情况而定,如果交换机性能好点的,完全可以设定100MB,单位是Byte,
如果机器的网卡和交换机的带宽有限,可以适当降低该速度,比如10MB,默认是1048576(1MB)。
hdfs dfsadmin-setBalancerBandwidth 52428800

3. dfs.balancer.block-move.timeout

以毫秒为单位移动的最大时间。如果这个设置大于0,平衡器将停止等待一个块移动完成。在典型的集群中,3到5分钟的超时是合理的。

如果超时发生在很大比例的块移动中,则需要增加。它也可能是太多的工作被分派,并且许多节点的带宽总是超过带宽限制。
在这种情况下,可能需要调整其他平衡器参数。默认情况下,它是禁用的。

4. dfs.balancer.max-no-move-interval

如果这个指定的时间量已经过去,并且没有一个块被移出源DataNode,那么将会有更多的努力在当前的平衡迭代中移出这个DataNode的块。

文章可以转载,必须以链接形式标明出处。
本文转自 张冲andy 博客园博客,如需转载请自行联系 原作者原文链接:http://www.cnblogs.com/andy6/p/8397791.html
你可能感兴趣的文章
3.本地集群部署与压力测试
查看>>
ubuntu 下jdk安装配置
查看>>
C语言课设——电影院选票系统
查看>>
[转]Oracle Hidden Parameter:_allow_resetlogs_corruption
查看>>
Component类应用
查看>>
NYOJ289 苹果
查看>>
ASP.NET Web API Model-ParameterBinding
查看>>
在String()构造器不存在的情况下自定义一个MyString()函数,实现如下内建String()方法和属性:...
查看>>
痞子衡嵌入式:忘掉cmd.exe吧!选用优雅的控制台终端(ConsoleZ)
查看>>
HDU——4738 Caocao's Bridges
查看>>
函数名与函数指针
查看>>
gnuplot examples
查看>>
javascript高级编程3第二章:在html中使用javascript
查看>>
windows 操作各种快捷键
查看>>
jmap dump文件压缩后失效
查看>>
less和scss
查看>>
mariadb索引、视图、关联查询、备份恢复、外键
查看>>
为什么很多 Android 程序喜欢在存储卡根目录建文件夹来存储数据而不是 Android/data 目录下?...
查看>>
Zend Framework
查看>>
归并排序——最省时的排序
查看>>