Performance 卡夫卡“消费者偏移量”主题中什么可能导致巨大的负载?

Performance 卡夫卡“消费者偏移量”主题中什么可能导致巨大的负载?,performance,apache-kafka,load,internal,consumer,Performance,Apache Kafka,Load,Internal,Consumer,我在我的卡夫卡集群(卡夫卡0.11.0.0)中有简单的观察 根据jmx信息,\uu consumer\u offset主题不断加载的消息是所有其他主题中所有消息总和的10倍。 我还将console consumer与这个主题联系起来,我可以测量类似的值 原因可能是什么 如何检查Kafka broker在做什么,并自行生成这样的负载 阅读消费者补偿主题: bin/kafka-console-consumer.sh--topic\u consumer\u offset--bootstrap服务器代

我在我的卡夫卡集群(卡夫卡0.11.0.0)中有简单的观察

根据jmx信息,
\uu consumer\u offset
主题不断加载的消息是所有其他主题中所有消息总和的10倍。 我还将console consumer与这个主题联系起来,我可以测量类似的值

  • 原因可能是什么
  • 如何检查Kafka broker在做什么,并自行生成这样的负载

阅读消费者补偿主题:

bin/kafka-console-consumer.sh--topic\u consumer\u offset--bootstrap服务器代理--格式化程序“kafka.coordinator.GroupMetadataManager\$OffsetsMessageFormatter”--新消费者--consumer.config consumer.conf

对于kafka 11,请使用格式化程序
“kafka.coordinator.group.GroupMetadataManager\$OffsetsMessageFormatter”

其中consumer.conf有一行


exclude.internal.topics=false

对于卡夫卡2.2版,这是一个演示:

卡夫卡2.12-2.2.1/bin#

输出将是:

[MyGroup-7cc5f948df-f9tqz,__MY_TOPIC,2]::OffsetAndMetadata(offset=30, leaderEpoch=Optional.empty, metadata=, commitTimestamp=1568121107017, expireTimestamp=None)

如果您阅读了uu cosumer u offset主题,就可以知道groupId要加载什么。这应该有助于研究谢谢你的提示。但不幸的是,本主题中的消息是二进制的,我什么也看不到:-(.--格式化程序“kafka.coordinator.GroupMetadataManager\$OffsetsMessageFormatter”--线程“main”java.lang.ClassNotFoundException中的新使用者异常:kafka.coordinator.GroupMetadataManager$OffsetsMessageFormatter位于java.net.URLClassLoader.findClass(URLClassLoader.java:381)位于java.lang.ClassLoader.loadClass(ClassLoader.java:424)位于kafka.tools.ConsoleConsumer$consumer.config.(ConsoleConsumer.scala:318)位于kafka.tools.ConsoleConsumer.main(ConsoleConsumer.scala:51)位于kafka.tools.ConsoleConsumer.main(ConsoleConsumer.scala)kafka_2.12-0.11.0.1是的。适用于9和10。我将在11中寻找解决方案尝试kafka.coordinator.group.GroupMetadataManager\$OffsetsMessageFormatter再加一条评论。我们发现了导致如此巨大负载的原因。Flink by defaut使群集/客户端每10毫秒同步一次!这可能是Flink的良好默认设置,但这可能会破坏代理性能。我明白了ting
线程“main”java.lang.ClassNotFoundException:kafka.coordinator.group.GroupMetadataManager\$OffsetsMessageFormatter中的异常。您知道如何修复它吗?我正在使用kafka_2.12-2.3.0。
[MyGroup-7cc5f948df-f9tqz,__MY_TOPIC,2]::OffsetAndMetadata(offset=30, leaderEpoch=Optional.empty, metadata=, commitTimestamp=1568121107017, expireTimestamp=None)