elasticsearch 在Logstash和Kafka中优先处理消息,elasticsearch,logstash,apache-kafka,producer-consumer,elasticsearch,Logstash,Apache Kafka,Producer Consumer" /> elasticsearch 在Logstash和Kafka中优先处理消息,elasticsearch,logstash,apache-kafka,producer-consumer,elasticsearch,Logstash,Apache Kafka,Producer Consumer" />

elasticsearch 在Logstash和Kafka中优先处理消息

elasticsearch 在Logstash和Kafka中优先处理消息,elasticsearch,logstash,apache-kafka,producer-consumer,elasticsearch,Logstash,Apache Kafka,Producer Consumer,我们将从不同来源向卡夫卡提供不同的原木。卡夫卡的消费者会对某些特定的信息集(或某些格式)比其他信息更感兴趣。我们如何确定信息的优先级 一个想法是在kafka中创建两个主题-1)高优先级主题2)低优先级主题,然后使用logstash中的过滤器将感兴趣的消息推送到高优先级主题,将其余消息推送到其他主题。这可能吗 有什么推荐的方法吗?使用标记或在logstash中键入来区分高优先级和低优先级,然后有两个卡夫卡输出 if CONDITIONAL { kafka { topic => "

我们将从不同来源向卡夫卡提供不同的原木。卡夫卡的消费者会对某些特定的信息集(或某些格式)比其他信息更感兴趣。我们如何确定信息的优先级

一个想法是在kafka中创建两个主题-1)高优先级主题2)低优先级主题,然后使用logstash中的过滤器将感兴趣的消息推送到高优先级主题,将其余消息推送到其他主题。这可能吗


有什么推荐的方法吗?

使用标记或在logstash中键入来区分高优先级和低优先级,然后有两个卡夫卡输出

if CONDITIONAL {
  kafka {
    topic => "high_priority_topic"
    ...
  }
}
else {
  kafka {
    topic => "low_priority_topic"
    ...
  }
}
使用条件类型

[type] == "high_priority"
"high_priority" in [tags]
使用标签将看起来像

[type] == "high_priority"
"high_priority" in [tags]