Apache kafka 需要使用ApacheNIFI将记录单独发送到Kafka
我正在从测试场景的nifi用户日志文件本身读取流/批处理格式的记录,并使用ConvertRecord nifi processor转换为Avro格式,然后使用PublishKafka_2_0 processor发布到kafka主题。我还使用模式注册表进行模式确认。因此,现在当记录转储到kafka上时,它将作为单个数组而不是单个记录来完成。是否有办法将记录拆分为单个实体。我已经试过Split records processor,但它似乎没有达到预期效果。有没有其他方法可以实现这一目标Apache kafka 需要使用ApacheNIFI将记录单独发送到Kafka,apache-kafka,schema,apache-nifi,avro,Apache Kafka,Schema,Apache Nifi,Avro,我正在从测试场景的nifi用户日志文件本身读取流/批处理格式的记录,并使用ConvertRecord nifi processor转换为Avro格式,然后使用PublishKafka_2_0 processor发布到kafka主题。我还使用模式注册表进行模式确认。因此,现在当记录转储到kafka上时,它将作为单个数组而不是单个记录来完成。是否有办法将记录拆分为单个实体。我已经试过Split records processor,但它似乎没有达到预期效果。有没有其他方法可以实现这一目标 --更新的要
--更新的要获得正确的反馈,请共享一个重现问题的流程,但是以下步骤有望满足您的要求:
- 在发送到卡夫卡之前直接拆分您的邮件,并确认拆分确实成功
- 尝试发布卡夫卡记录2.0,而不是发布卡夫卡2.0
- 将最大消息大小设置为1字节而不是1MB李>