Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache kafka KafkaSpout.class的问题_Apache Kafka_Apache Storm - Fatal编程技术网

Apache kafka KafkaSpout.class的问题

Apache kafka KafkaSpout.class的问题,apache-kafka,apache-storm,Apache Kafka,Apache Storm,我使用了storm.kafka包的KafkaSpout类从kafka主题获取消息。我可以看到每秒大约发出340个元组。C我确实增加了并行化的线程数,但在计数上没有差别。您能告诉我如何增加kafkaSpout每秒发出的消息/元组数吗 谢谢, Bhaskar.您是否有失败的元组数?没有失败的元组。我已将获取大小从默认值增加到5 MB,10 MB。您确定生成消息的速率高于340吗?你的卡夫卡主题有多少个分区?您可以(应该)每个分区使用一个辅助进程,我只测试了一个分区和两个辅助进程。我刚刚添加了以下配置

我使用了storm.kafka包的KafkaSpout类从kafka主题获取消息。我可以看到每秒大约发出340个元组。C我确实增加了并行化的线程数,但在计数上没有差别。您能告诉我如何增加kafkaSpout每秒发出的消息/元组数吗

谢谢,
Bhaskar.

您是否有失败的元组数?没有失败的元组。我已将获取大小从默认值增加到5 MB,10 MB。您确定生成消息的速率高于340吗?你的卡夫卡主题有多少个分区?您可以(应该)每个分区使用一个辅助进程,我只测试了一个分区和两个辅助进程。我刚刚添加了以下配置参数。properties.put(Config.TOPOLOGY\u WORKERS,2);properties.put(Config.TOPOLOGY\u MAX\u pout\u PENDING,5);properties.put(Config.TOPOLOGY\u ACKER\u EXECUTORS,4);有了这个,我可以看到每秒处理1500毫秒。请建议我如何将速率提高到每秒10000毫秒?尝试将TOPOLOGY_MAX_Spoot_PENDING增加到更大的值。根据docs:TOPOLOGY\u MAX\u SPOUT\u PENDING在任何给定时间可以挂起一个SPOUT任务的最大元组数。此配置适用于单个任务,而不是整体喷口或拓扑。挂起的元组是从喷口发出但尚未确认或失败的元组。请注意,此配置参数对不可靠的喷动没有影响,这些喷动不使用消息id标记其元组。请将TOPOLOGY_MAX_喷动_PENDING增加到大约1000,然后重试。