Hadoop生态圈的基石有两个,一个是HDFS文件系统,一个是MR编程框架:HDFS性能压测工具浅析(3)

发表于:2014-06-25来源:淘测试作者:凡提点击数: 标签:性能压测工具
SliveTest可以给Namenode带来很大的压力,用来做极限情况下的压力测试非常合适。吴威大师(给大师拎包一直是我的荣幸)在SliveTest基础上更上一层,设计了多

  SliveTest可以给Namenode带来很大的压力,用来做极限情况下的压力测试非常合适。吴威大师(给大师拎包一直是我的荣幸)在SliveTest基础上更上一层,设计了多线程的SliveMapper,在多map多线程下压测Namenode,由于使用了上一篇文章中提到的应用MapReduce进行多机联合负载的思想,基本上可以将Namenode的极限性能完全压榨干净。大师制作的这个工具运行起来之后,Namenode就会处于一种假死状态,对其他rpc请求基本上失去响应,模拟出来的并发压力远远超过云梯当前线上的实际最大压力。作为每次云梯新版本上线前的必测工具,检测出的Hadoop性能瓶颈或发现的相关bug无数。(大师的思想有如茫茫大海中的明灯,指引我们前进的方向)

  给大师拎包:

  DFSIO

  DFSIO是一个标准的HDFS的Benchmark工具,位于test包中。功能简单明了,测试的是读和写的性能指标。使用参数如下:

read

读测试,报告保存在“io_read/part-00000”中。执行该测试之前,需要先做write测试,以便先行在io_data目录下生成供读取的文件。

write

写测试,报告保存在“io_write/part-00000”中。

nfFiles

文件个数,默认为1

fileSize

文件大小,默认为1MB

resFile

结果文件名,默认为” TestDFSIO_results.log”

bufferSize

设置缓存大小,默认为1000000

clean

清理数据

seq

数据是否有序,默认无序

原文转自:http://www.ltesting.net