Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache kafka 卡夫卡偏移量值在消费者偏移量和实际主题偏移量之间不同_Apache Kafka_Kafka Consumer Api - Fatal编程技术网

Apache kafka 卡夫卡偏移量值在消费者偏移量和实际主题偏移量之间不同

Apache kafka 卡夫卡偏移量值在消费者偏移量和实际主题偏移量之间不同,apache-kafka,kafka-consumer-api,Apache Kafka,Kafka Consumer Api,为什么实际主题中的偏移值与同一主题的\uuuu consumer\u offset中的偏移值不同?PFB偏移位置以及使用的命令 __consumer_offsets_13 ===================================== [root@node1 __consumer_offsets-13]# /opt/kafka_2.11-0.10.1.1/bin/kafka-run-class.sh kafka.tools.DumpLogSegments --deep-iterati

为什么实际主题中的偏移值与同一主题的
\uuuu consumer\u offset
中的偏移值不同?PFB偏移位置以及使用的命令

__consumer_offsets_13
=====================================
[root@node1 __consumer_offsets-13]# /opt/kafka_2.11-0.10.1.1/bin/kafka-run-class.sh kafka.tools.DumpLogSegments --deep-iteration --print-data-log --files ./00000000000000000000.log | tail -n 5
_offset: 41368_ position: 4190035 CreateTime: 1532888732120 isvalid: true payloadsize: 28 magic: 1 compresscodec: NoCompressionCodec crc: 1789813648 keysize: 43 key: my_consumer_groupmy_topic payload: Ad�I��d�p-�

my_topic
=====================================
[root@node1 __consumer_offsets-13]# /opt/kafka_2.11-0.10.1.1/bin/kafka-run-class.sh kafka.tools.DumpLogSegments --deep-iteration --print-data-log --files ../my_topic-0/00000000000000000000.log | tail -n 5
offset: 2080 position: 315620 CreateTime: 1532891670673 isvalid: true payloadsize: 118 magic: 1 compresscodec: NoCompressionCodec crc: 744326405 payload: {message_content_1}
_offset: 2081_ position: 315772 CreateTime: 1532891670673 isvalid: true payloadsize: 118 magic: 1 compresscodec: NoCompressionCodec crc: 2573656188 payload: {message_content_2}

我遗漏了什么?

kafka.tools.DumpLogSegments工具打印日志的内容

针对
\uuu consumer\u offset
运行时看到的偏移量是包含消费组偏移量的消息的偏移量。它不是消费群体的抵销

消费者组的实际偏移量包含在该消息的有效负载中。在您的输出中,它显示为
payload:Ad�我��D�p-�因为它需要解码


查看是否要打印
\uu消费者\u偏移量的内容

此外,每个消费者组ID和主题的每个分区的偏移量都独立存储。非常感谢!当我使用您指示我使用的命令时,它给出了
[console-consumer-63470,\uuuu consumer\u offset,13]::[OffsetMetadata[41371,NO\u METADATA],committetime 153288977047,ExpirationTime 1532976177047]
,但
\u consumer\u offset\u 13
是特定消费群体的分区,它包含它涉及的所有主题的偏移值。我如何确定特定主题(
我的主题
)的最新偏移量是否也是
\uuu consumer\u offset-13
(因为我已经计算出该分区的最新偏移量)中“我的主题”的最新偏移量位置,换句话说,我如何解码当前的
有效载荷
并获得
实际偏移量
?有什么建议可以解决上述问题吗?这是一个不同的问题,但检索承诺偏移量的最佳方法是使用
kafka consumer groups.sh
工具。例如:
kafka-consumer-groups.sh--bootstrap服务器代理:9092--description--group my group
它不适用于我目前使用的spring引导客户机,并且官方记录的方法没有帮助,我不得不停在@SO.:-)因此,如果有任何其他方法可以帮助我获得存储在consumer_offset中的消息的有效负载,那将确实对我有所帮助。