Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache kafka Kafka-使用多个分区的密钥特定订阅_Apache Kafka - Fatal编程技术网

Apache kafka Kafka-使用多个分区的密钥特定订阅

Apache kafka Kafka-使用多个分区的密钥特定订阅,apache-kafka,Apache Kafka,我有一个主题,有大约100k个离散键。使用手动分区分配,我希望能够尽可能地订阅单个密钥 在这些博客文章(,)中,Confluent说支持200k个分区,但建议每个代理只支持4k个分区 问题是,我还可以做些什么来支持更多分区(除了添加更多代理之外) 或者,在Kafka中是否有一些模式支持按键订阅?为什么要查找每个键的分区..为什么不为每个分区分组键?暂时假设您只有一个分区,并且该分区中的所有消息都有一个使用者。当使用者处理一条消息时,您可以获得它当前正在处理的消息的密钥,因此我假设它可以根据需要处

我有一个主题,有大约100k个离散键。使用手动分区分配,我希望能够尽可能地订阅单个密钥

在这些博客文章(,)中,Confluent说支持200k个分区,但建议每个代理只支持4k个分区

问题是,我还可以做些什么来支持更多分区(除了添加更多代理之外)


或者,在Kafka中是否有一些模式支持按键订阅?

为什么要查找每个键的分区..为什么不为每个分区分组键?暂时假设您只有一个分区,并且该分区中的所有消息都有一个使用者。当使用者处理一条消息时,您可以获得它当前正在处理的消息的密钥,因此我假设它可以根据需要处理该密钥特定的任何内容,就像方法接受参数一样。您的逻辑是什么,您需要每个密钥有一个消费者?@KevinHooke~10k个100k密钥中每天可能有10e6条消息。如果消费者对这些密钥不感兴趣,我不希望网络将这些事件传递给消费者,我也不希望消费者浪费周期来对密钥进行反序列化,只是为了扔掉事件。您可以使用Streams API过滤具有大量已知密钥的消息(如果您知道)到一个单独的流,由一个消费群体进行处理,其余的可由另一个消费群体进行消费?