Apache kafka 将UDP消息推送到Kafka主题
卡夫卡制作者是否可以监听某些端口(UDP/TCP),然后将数据发送到指定的主题 我是否需要开发一个单独的守护进程来侦听端口,然后将数据发送到kafka topic?(已经有一些github项目可用)。只是想确保我们已经找到了一种方法来实现它,使它变得更健壮,更易于扩展。基本上,将UDP数据包中继到Kafka 问候Apache kafka 将UDP消息推送到Kafka主题,apache-kafka,kafka-producer-api,Apache Kafka,Kafka Producer Api,卡夫卡制作者是否可以监听某些端口(UDP/TCP),然后将数据发送到指定的主题 我是否需要开发一个单独的守护进程来侦听端口,然后将数据发送到kafka topic?(已经有一些github项目可用)。只是想确保我们已经找到了一种方法来实现它,使它变得更健壮,更易于扩展。基本上,将UDP数据包中继到Kafka 问候 Sunil如评论中所述,是的,这是可能的-通过谷歌搜索可以找到多种解决方案-这里有一个项目,可以让你做你想做的事情-开箱即用: 我更愿意使用rsyslogd: /etc/rsyslog
Sunil如评论中所述,是的,这是可能的-通过谷歌搜索可以找到多种解决方案-这里有一个项目,可以让你做你想做的事情-开箱即用:
我更愿意使用rsyslogd: /etc/rsyslog.d/kafka.conf
module(load="imudp")
module(load="omkafka")
template(name="kafka_msg" type="string" string="%msg%")
ruleset(name="kafka") {
:msg, !contains, "timestamp" ~
action (
type="omkafka"
topic="nginx-accesslog"
broker=["192.168.1.1:9092", "192.168.1.2:9092", "192.168.1.3:9092"]
template="kafka_msg"
confParam=["compression.codec=gzip"]
partitions.auto="on"
)
}
input(type="imudp" port="10514" Ruleset="kafka")
对这都是可能的。有什么办法呢?我试图寻找它,但无法获得所需的选项。有什么例子吗?你说的选项是什么意思?你需要自己去实现它。我之前的评论就是为了这个:这是可能实现的。