Warning: file_get_contents(/data/phpspider/zhask/data//catemap/9/java/392.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181

Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
一个Java Kafka使用者需要多少操作系统资源?_Java_Apache Kafka_Threadpool_Connection Pooling_Kafka Consumer Api - Fatal编程技术网

一个Java Kafka使用者需要多少操作系统资源?

一个Java Kafka使用者需要多少操作系统资源?,java,apache-kafka,threadpool,connection-pooling,kafka-consumer-api,Java,Apache Kafka,Threadpool,Connection Pooling,Kafka Consumer Api,我想用数十万个。例如,我需要一些架构模式的100000消费者。我在想,可以吗?或者我应该重构我的系统,为整个系统使用很少的使用者(例如,10使用者,而不是100\u 000) 因此,我的问题是: 卡夫卡消费者中是否存在连接池,或者每个消费者都创建自己与卡夫卡经纪人的连接 KafkaConsumer中是否有线程池,或者每个消费者都创建自己的线程(我希望没有) 卡夫卡消费者的平均内存消耗是多少 您对这种建筑模式有何看法 1,2)使用者从作为分区领导者的一个代理请求元数据。每个使用者都能够处理来自单个

我想用数十万个。例如,我需要一些架构模式的
100000
消费者。我在想,可以吗?或者我应该重构我的系统,为整个系统使用很少的使用者(例如,
10
使用者,而不是
100\u 000

因此,我的问题是:

  • 卡夫卡消费者中是否存在
    连接池
    ,或者每个消费者都创建自己与卡夫卡经纪人的连接
  • KafkaConsumer中是否有
    线程池
    ,或者每个消费者都创建自己的线程(我希望没有)
  • 卡夫卡消费者的平均内存消耗是多少
  • 您对这种建筑模式有何看法
  • 1,2)使用者从作为分区领导者的一个代理请求元数据。每个使用者都能够处理来自单个线程的所有IO,因为Java客户端是围绕事件循环设计的,该循环由
    poll()
    驱动。您还可以构建多线程使用者,但需要注意偏移管理。有关Java客户端实现的更多详细信息,请参阅

    3) 根据,

    消费者每个消费者至少使用2MB,在发生故障时最多使用64MB 代理的大量响应(典型的突发流量)

    4) 你提到的消费者数量是巨大的,所以你需要一个非常好的理由去购买100000名消费者。尽管这取决于具体情况,但即使是Netflix也应该少用很多