一个Java Kafka使用者需要多少操作系统资源?
我想用数十万个。例如,我需要一些架构模式的一个Java Kafka使用者需要多少操作系统资源?,java,apache-kafka,threadpool,connection-pooling,kafka-consumer-api,Java,Apache Kafka,Threadpool,Connection Pooling,Kafka Consumer Api,我想用数十万个。例如,我需要一些架构模式的100000消费者。我在想,可以吗?或者我应该重构我的系统,为整个系统使用很少的使用者(例如,10使用者,而不是100\u 000) 因此,我的问题是: 卡夫卡消费者中是否存在连接池,或者每个消费者都创建自己与卡夫卡经纪人的连接 KafkaConsumer中是否有线程池,或者每个消费者都创建自己的线程(我希望没有) 卡夫卡消费者的平均内存消耗是多少 您对这种建筑模式有何看法 1,2)使用者从作为分区领导者的一个代理请求元数据。每个使用者都能够处理来自单个
100000
消费者。我在想,可以吗?或者我应该重构我的系统,为整个系统使用很少的使用者(例如,10
使用者,而不是100\u 000
)
因此,我的问题是:
连接池
,或者每个消费者都创建自己与卡夫卡经纪人的连接线程池
,或者每个消费者都创建自己的线程(我希望没有)poll()
驱动。您还可以构建多线程使用者,但需要注意偏移管理。有关Java客户端实现的更多详细信息,请参阅
3) 根据,
消费者每个消费者至少使用2MB,在发生故障时最多使用64MB
代理的大量响应(典型的突发流量)
4) 你提到的消费者数量是巨大的,所以你需要一个非常好的理由去购买100000名消费者。尽管这取决于具体情况,但即使是Netflix也应该少用很多