websocket向kafka发送nifi群集消息,无重复

websocket向kafka发送nifi群集消息,无重复,websocket,apache-kafka,apache-nifi,Websocket,Apache Kafka,Apache Nifi,在当前im正在处理的项目中,im使用一台flume服务器来启动与socket io websocket的连接,当使用它将事件写入kafka主题的消息时,它会发送事件。 我想使用带有ConnectWebSocket处理器的nifi集群来使用来自websocket的消息,并最终将它们插入到kafka主题中。 由于集群中有多个代理处理同一事件,nifi集群是否会导致主题中出现重复消息? 提前感谢:)在我检查之后,我看到默认配置会有重复,因为所有节点都将执行相同的过程。 但是有一个选项可以将Connec

在当前im正在处理的项目中,im使用一台flume服务器来启动与socket io websocket的连接,当使用它将事件写入kafka主题的消息时,它会发送事件。 我想使用带有ConnectWebSocket处理器的nifi集群来使用来自websocket的消息,并最终将它们插入到kafka主题中。 由于集群中有多个代理处理同一事件,nifi集群是否会导致主题中出现重复消息?
提前感谢:)

在我检查之后,我看到默认配置会有重复,因为所有节点都将执行相同的过程。 但是有一个选项可以将ConnectWebSocket调度配置为仅执行主节点,如果它因某种原因关闭,另一个节点将执行该工作。
这解决了我的问题,以便以稳定的方式只写一次事件。

在我检查了它之后,我发现默认配置会有重复,因为所有节点都将执行相同的过程。 但是有一个选项可以将ConnectWebSocket调度配置为仅执行主节点,如果它因某种原因关闭,另一个节点将执行该工作。 这解决了我的问题,以便以稳定的方式只编写一次事件