看了很多关于Storm性能的文章,说法不一,自己根据实际业务测一下是否能满足自身要求(只做了简单集群和代码调优)

  • 场景:kafka消费数据标准化后存储到Hbase中 
  • 服务器资源:

      两台32G内存做Supervisor

  • 使用资源

Storm性能简单测试_数据

平均处理数据速度  13000 条/秒,可以满足业务需求,ok

Storm性能简单测试_业务需求_02

 

Storm性能简单测试_kafka_03

  • Storm参数 
conf.setNumWorkers(10);  
		conf.put(Config.TOPOLOGY_MAX_SPOUT_PENDING, 1024);
		conf.put(Config.TOPOLOGY_EXECUTOR_RECEIVE_BUFFER_SIZE,16384);
		conf.put(Config.TOPOLOGY_EXECUTOR_SEND_BUFFER_SIZE,16384);
		conf.put(Config.TOPOLOGY_TRANSFER_BUFFER_SIZE,32);
		conf.put(Config.TOPOLOGY_MESSAGE_TIMEOUT_SECS, 300);