Apache kafka Flume Kafka频道是否始终限于单个内部Kafka使用者?

Apache kafka Flume Kafka频道是否始终限于单个内部Kafka使用者?,apache-kafka,flume,flume-ng,Apache Kafka,Flume,Flume Ng,基于Kafka文档:在Kafka中,可以通过拥有一个具有多个分区的主题,然后创建一个最多具有与分区数量相同的使用者实例的使用者组来提高吞吐量。这样,每个使用者实例都被分配了自己的分区 我可以创建一个具有多个分区的主题,然后配置flume kafka频道以使用该主题 但是,无论主题有多少个分区,flume kafka通道都只创建一个使用者(至少根据我在flume日志中看到的情况) 有没有一种方法可以配置Kafka通道以产生与分区数量相同的消费者 我猜答案是否定的,因为一个频道可能只有一个源。您可以

基于Kafka文档:在Kafka中,可以通过拥有一个具有多个分区的主题,然后创建一个最多具有与分区数量相同的使用者实例的使用者组来提高吞吐量。这样,每个使用者实例都被分配了自己的分区

我可以创建一个具有多个分区的主题,然后配置flume kafka频道以使用该主题

但是,无论主题有多少个分区,flume kafka通道都只创建一个使用者(至少根据我在flume日志中看到的情况)

有没有一种方法可以配置Kafka通道以产生与分区数量相同的消费者


我猜答案是否定的,因为一个频道可能只有一个源。

您可以使用相同的用户组id运行多个flume代理,以便所有代理都可以共享分区。例如:如果您的主题有20个分区,并且您运行4个flume代理,那么每个flume代理将被分配到5个分区。
我认为这是在flume中实现与Kafka通道并行的唯一方法。

您可以使用相同的用户组id运行多个flume代理,以便所有代理都可以共享分区。例如:如果您的主题有20个分区,并且您运行4个flume代理,那么每个flume代理将被分配到5个分区。
我认为这是在flume中实现与Kafka通道并行的唯一方法。

您可以运行多个flume进程,具体取决于源和汇。您可以运行多个flume进程,具体取决于源和汇