Apache kafka 卡夫卡:如何向卡夫卡生成多个传入文件?
我们有一个场景,卡夫卡制作人应该读取传入文件的列表,并将它们制作成卡夫卡主题。我读过FileSourceConnector(),但它只读取一个文件并发送添加到该文件的新行。不处理文件旋转。有几个问题: 1) 实现我们自己的生产者代码以满足我们的需求更好吗?还是我们可以扩展File Connector类以便它读取新文件并将其发送到Kafka主题。 2) 是否有任何其他源连接器可用于此场景 在性能和易开发性方面,哪种方法更好?i、 例如,开发生产商代码以读取文件并发送到Kafka,或者扩展连接器代码并对其进行更改 任何形式的反馈都将不胜感激!Apache kafka 卡夫卡:如何向卡夫卡生成多个传入文件?,apache-kafka,Apache Kafka,我们有一个场景,卡夫卡制作人应该读取传入文件的列表,并将它们制作成卡夫卡主题。我读过FileSourceConnector(),但它只读取一个文件并发送添加到该文件的新行。不处理文件旋转。有几个问题: 1) 实现我们自己的生产者代码以满足我们的需求更好吗?还是我们可以扩展File Connector类以便它读取新文件并将其发送到Kafka主题。 2) 是否有任何其他源连接器可用于此场景 在性能和易开发性方面,哪种方法更好?i、 例如,开发生产商代码以读取文件并发送到Kafka,或者扩展连接器代码
谢谢大家! 你有没有看过《阿克卡溪流》——反应型卡夫卡
检查此示例:您可以按照建议编写一个producer,或者更好的是,使用我个人直接使用的producer API编写您自己的连接器。我处理文件旋转,可以实时发布。要确保源系统和接收器系统上的文件完全相同(只需一次处理),这是一个棘手的部分