Apache kafka 如何使用Kafka控制台生成器处理压缩数据

Apache kafka 如何使用Kafka控制台生成器处理压缩数据,apache-kafka,Apache Kafka,我有一个包含JSON数据的文件。如何使用console producer以压缩格式(gzip)将数据发送到主题?请注意-我可以通过用Java编写自定义生产者来完成。我的问题是关于控制台制作人的 如果您自己键入kafka console producer,您将获得完整的选项列表。 您将看到它包括以下内容 --compression-codec [String: The compression codec: either 'none', compression-cod

我有一个包含JSON数据的文件。如何使用console producer以压缩格式(gzip)将数据发送到主题?请注意-我可以通过用Java编写自定义生产者来完成。我的问题是关于控制台制作人的

如果您自己键入
kafka console producer
,您将获得完整的选项列表。 您将看到它包括以下内容

--compression-codec [String:             The compression codec: either 'none',  
  compression-codec]                       'gzip', 'snappy', 'lz4', or 'zstd'.  
                                           If specified without value, then it  
                                           defaults to 'gzip'                   
所以你可以运行类似于

cat my-data.json | kafka-console-producer --broker-list kafka:9092 --topic json-topic --compression-codec gzip

如果您自己键入
kafka console producer
,您将获得完整的选项列表。 您将看到它包括以下内容

--compression-codec [String:             The compression codec: either 'none',  
  compression-codec]                       'gzip', 'snappy', 'lz4', or 'zstd'.  
                                           If specified without value, then it  
                                           defaults to 'gzip'                   
所以你可以运行类似于

cat my-data.json | kafka-console-producer --broker-list kafka:9092 --topic json-topic --compression-codec gzip

谢谢@andybryant谢谢@andybryant