Warning: file_get_contents(/data/phpspider/zhask/data//catemap/1/visual-studio-2008/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache kafka 如何在linux中将kafka消费者日志写入文件_Apache Kafka - Fatal编程技术网

Apache kafka 如何在linux中将kafka消费者日志写入文件

Apache kafka 如何在linux中将kafka消费者日志写入文件,apache-kafka,Apache Kafka,我正在尝试编写在控制台中打印的日志。我在Kafka consumer中看到主题中的消息,但是,没有任何内容写入日志文件my_log_file.txt 但是当我回显'test'|>>text.txt时,会生成一个文件 请帮忙 我的命令: ./kafka-console-consumer.sh --bootstrap-server server1.server.com:9092, server2.server.com:9092, server3.server.com:9092 --topic MY-

我正在尝试编写在控制台中打印的日志。我在Kafka consumer中看到主题中的消息,但是,没有任何内容写入日志文件my_log_file.txt 但是当我回显'test'|>>text.txt时,会生成一个文件

请帮忙

我的命令:

./kafka-console-consumer.sh --bootstrap-server server1.server.com:9092, server2.server.com:9092, server3.server.com:9092 --topic MY-SAMPLE-TOPIC >> my_log_file.txt

默认情况下,kafka-console-consumer.sh从最新偏移量读取数据。所以,您必须在kafka控制台使用者工作期间继续发送数据。如果要从头开始读取,可以使用此命令,它将处理多达100条消息,因为-max messages参数:

./kafka-console-consumer.sh --bootstrap-server server1.server.com:9092, server2.server.com:9092, server3.server.com:9092 --from-beginning --max-messages 100 --topic MY-SAMPLE-TOPIC >> my_log_file.txt

或者,您可以设置offset by-offset x-partition y参数,以从特定偏移量使用。

您应该使用Kafka Connect进行此。。。控制台使用者不会在不提供使用者组的情况下跟踪偏移

bin/connect-standalone config/connect-standalone.properties config/file-sink.properties 

我没有带卡夫卡,所以无法测试,请您尝试一下。/kafka-console-consumer.sh-bootstrap server server1.server.com:9092,server2.server.com:9092,server3.server.com:9092-topic MY-SAMPLE-topic>>MY_log_file.txt 2>&1?如果这对您有效?如果您希望每次运行shell脚本时都发生这种情况,那么您也可以在开始时将脚本更新为-exec&>>your\u file.log