Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache kafka 卡夫卡流:标点工作缓慢的负面后果是什么?_Apache Kafka_Apache Kafka Streams - Fatal编程技术网

Apache kafka 卡夫卡流:标点工作缓慢的负面后果是什么?

Apache kafka 卡夫卡流:标点工作缓慢的负面后果是什么?,apache-kafka,apache-kafka-streams,Apache Kafka,Apache Kafka Streams,在我们的Kafka Streams拓扑中,我们有一些标点符号,可能需要很长时间(几分钟)才能运行 使用如此缓慢的标点符号会有什么后果?在运行标点符号时,它们运行的进程是否会停止处理记录?它们会导致重新平衡吗?如果您的标点器逻辑运行缓慢,如几分钟,Kafka流将不会使用来自特定分区(标点器在其上执行)的新消息,直到标点器完成执行。此外,长时间运行的标点符号不应触发再平衡(再平衡可能由于其他原因发生) 一个分区上的线程是否影响其他分区取决于您是在单个节点上还是在多个节点上运行应用程序,还取决于您可能

在我们的Kafka Streams拓扑中,我们有一些标点符号,可能需要很长时间(几分钟)才能运行


使用如此缓慢的标点符号会有什么后果?在运行标点符号时,它们运行的进程是否会停止处理记录?它们会导致重新平衡吗?

如果您的标点器逻辑运行缓慢,如几分钟,Kafka流将不会使用来自特定分区(标点器在其上执行)的新消息,直到标点器完成执行。此外,长时间运行的标点符号不应触发再平衡(再平衡可能由于其他原因发生)

一个分区上的线程是否影响其他分区取决于您是在单个节点上还是在多个节点上运行应用程序,还取决于您可能为Kafka Streams指定的
num.stream.threads
属性。
如果应用程序在单个节点上运行,Kafka stream将对所有分区仅使用单个线程(默认情况下,
num.stream.threads
为1)。因此,在本例中,标点符号或在特定的分区块上,所有其他分区也是如此。但是,如果您有多个应用程序实例和/或
num.stream.threads
大于1,那么如果某些标点符号运行得很快,那么这些分区将不会受到其他分区上长时间运行的标点符号的影响

“长时间运行的标点符号不应该触发再平衡”——只是想补充一下。它取决于
max.poll.interval.ms
配置:只要执行标点符号,
poll()
将不会被调用,因此,可能会达到此超时——但是,在Kafka Streams中,默认配置设置为
max\u VALUE
,即只要不更改配置,就永远不会发生这种情况。