Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache kafka 卡夫卡制作人和消费者宕机时的电子邮件通知_Apache Kafka_Apache Zookeeper - Fatal编程技术网

Apache kafka 卡夫卡制作人和消费者宕机时的电子邮件通知

Apache kafka 卡夫卡制作人和消费者宕机时的电子邮件通知,apache-kafka,apache-zookeeper,Apache Kafka,Apache Zookeeper,我用卡夫卡开发了一个数据管道。现在我在集群中设置了一种生产者和两种消费者 Producer:从windows服务器获取消息 消费者:消费者A使用Spark Streaming转换并呈现实时视图。使用者B存储原始数据,这对于以后构建模式可能很有用 由于从网络开始的各种原因,使用者不会收到任何数据,而且使用者进程也可能在系统发生故障时死亡 我很想知道,是否有一种方法可以在消费者停止接收消息或消费者线程完全消失时向您发送电子邮件通知。卡夫卡或动物园管理员提供了这样做的方法吗 现在我正在考虑检查目标系统

我用卡夫卡开发了一个数据管道。现在我在集群中设置了一种生产者和两种消费者

  • Producer:从windows服务器获取消息

  • 消费者:消费者A使用Spark Streaming转换并呈现实时视图。使用者B存储原始数据,这对于以后构建模式可能很有用

  • 由于从网络开始的各种原因,使用者不会收到任何数据,而且使用者进程也可能在系统发生故障时死亡

    我很想知道,是否有一种方法可以在消费者停止接收消息或消费者线程完全消失时向您发送电子邮件通知。卡夫卡或动物园管理员提供了这样做的方法吗


    现在我正在考虑检查目标系统是否正在接收消息。但在未来,如果目标数量增加,为单个目标编写电子邮件通知系统将非常复杂。

    不确定这是否100%符合您的要求,但您可以尝试一下-它支持跟踪消费者延迟和出现问题时的电子邮件通知wrong@serejja谢谢看起来不错。你为什么不在你的消费者/生产者代码中添加这个东西呢。@Bector2但从长远来看,当这个管道被视为组织范围内的服务时,要求每个人在他们的代码中添加这个可能不是一个好主意,但它可能会导致一些其他问题,这是一项独立于消费者/生产者的功能,不应紧密耦合。您可以从属性文件对其进行配置,从中可以根据需要添加多个邮件id。在KAFKA中进行配置时,您仍然需要添加这些邮件ID。据我所知,生产商、消费者和经纪人是独立的组成部分,因此不可能有一个单一的点可以监控所有三者。