Apache kafka 卡夫卡偏移量值在消费者偏移量和实际主题偏移量之间不同
为什么实际主题中的偏移值与同一主题的Apache kafka 卡夫卡偏移量值在消费者偏移量和实际主题偏移量之间不同,apache-kafka,kafka-consumer-api,Apache Kafka,Kafka Consumer Api,为什么实际主题中的偏移值与同一主题的\uuuu consumer\u offset中的偏移值不同?PFB偏移位置以及使用的命令 __consumer_offsets_13 ===================================== [root@node1 __consumer_offsets-13]# /opt/kafka_2.11-0.10.1.1/bin/kafka-run-class.sh kafka.tools.DumpLogSegments --deep-iterati
\uuuu consumer\u offset
中的偏移值不同?PFB偏移位置以及使用的命令
__consumer_offsets_13
=====================================
[root@node1 __consumer_offsets-13]# /opt/kafka_2.11-0.10.1.1/bin/kafka-run-class.sh kafka.tools.DumpLogSegments --deep-iteration --print-data-log --files ./00000000000000000000.log | tail -n 5
_offset: 41368_ position: 4190035 CreateTime: 1532888732120 isvalid: true payloadsize: 28 magic: 1 compresscodec: NoCompressionCodec crc: 1789813648 keysize: 43 key: my_consumer_groupmy_topic payload: Ad�I��d�p-�
my_topic
=====================================
[root@node1 __consumer_offsets-13]# /opt/kafka_2.11-0.10.1.1/bin/kafka-run-class.sh kafka.tools.DumpLogSegments --deep-iteration --print-data-log --files ../my_topic-0/00000000000000000000.log | tail -n 5
offset: 2080 position: 315620 CreateTime: 1532891670673 isvalid: true payloadsize: 118 magic: 1 compresscodec: NoCompressionCodec crc: 744326405 payload: {message_content_1}
_offset: 2081_ position: 315772 CreateTime: 1532891670673 isvalid: true payloadsize: 118 magic: 1 compresscodec: NoCompressionCodec crc: 2573656188 payload: {message_content_2}
我遗漏了什么?kafka.tools.DumpLogSegments工具打印日志的内容 针对
\uuu consumer\u offset
运行时看到的偏移量是包含消费组偏移量的消息的偏移量。它不是消费群体的抵销
消费者组的实际偏移量包含在该消息的有效负载中。在您的输出中,它显示为payload:Ad�我��D�p-�代码>因为它需要解码
查看是否要打印\uu消费者\u偏移量的内容
此外,每个消费者组ID和主题的每个分区的偏移量都独立存储。非常感谢!当我使用您指示我使用的命令时,它给出了[console-consumer-63470,\uuuu consumer\u offset,13]::[OffsetMetadata[41371,NO\u METADATA],committetime 153288977047,ExpirationTime 1532976177047]
,但\u consumer\u offset\u 13
是特定消费群体的分区,它包含它涉及的所有主题的偏移值。我如何确定特定主题(我的主题
)的最新偏移量是否也是\uuu consumer\u offset-13
(因为我已经计算出该分区的最新偏移量)中“我的主题”的最新偏移量位置,换句话说,我如何解码当前的有效载荷
并获得实际偏移量
?有什么建议可以解决上述问题吗?这是一个不同的问题,但检索承诺偏移量的最佳方法是使用kafka consumer groups.sh
工具。例如:kafka-consumer-groups.sh--bootstrap服务器代理:9092--description--group my group
它不适用于我目前使用的spring引导客户机,并且官方记录的方法没有帮助,我不得不停在@SO.:-)因此,如果有任何其他方法可以帮助我获得存储在consumer_offset中的消息的有效负载,那将确实对我有所帮助。