Apache kafka 如何使用Kafka控制台生成器处理压缩数据
我有一个包含JSON数据的文件。如何使用console producer以压缩格式(gzip)将数据发送到主题?请注意-我可以通过用Java编写自定义生产者来完成。我的问题是关于控制台制作人的 如果您自己键入Apache kafka 如何使用Kafka控制台生成器处理压缩数据,apache-kafka,Apache Kafka,我有一个包含JSON数据的文件。如何使用console producer以压缩格式(gzip)将数据发送到主题?请注意-我可以通过用Java编写自定义生产者来完成。我的问题是关于控制台制作人的 如果您自己键入kafka console producer,您将获得完整的选项列表。 您将看到它包括以下内容 --compression-codec [String: The compression codec: either 'none', compression-cod
kafka console producer
,您将获得完整的选项列表。
您将看到它包括以下内容
--compression-codec [String: The compression codec: either 'none',
compression-codec] 'gzip', 'snappy', 'lz4', or 'zstd'.
If specified without value, then it
defaults to 'gzip'
所以你可以运行类似于
cat my-data.json | kafka-console-producer --broker-list kafka:9092 --topic json-topic --compression-codec gzip
如果您自己键入
kafka console producer
,您将获得完整的选项列表。
您将看到它包括以下内容
--compression-codec [String: The compression codec: either 'none',
compression-codec] 'gzip', 'snappy', 'lz4', or 'zstd'.
If specified without value, then it
defaults to 'gzip'
所以你可以运行类似于
cat my-data.json | kafka-console-producer --broker-list kafka:9092 --topic json-topic --compression-codec gzip
谢谢@andybryant谢谢@andybryant