Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache kafka 卡夫卡:如何向卡夫卡生成多个传入文件?_Apache Kafka - Fatal编程技术网

Apache kafka 卡夫卡:如何向卡夫卡生成多个传入文件?

Apache kafka 卡夫卡:如何向卡夫卡生成多个传入文件?,apache-kafka,Apache Kafka,我们有一个场景,卡夫卡制作人应该读取传入文件的列表,并将它们制作成卡夫卡主题。我读过FileSourceConnector(),但它只读取一个文件并发送添加到该文件的新行。不处理文件旋转。有几个问题: 1) 实现我们自己的生产者代码以满足我们的需求更好吗?还是我们可以扩展File Connector类以便它读取新文件并将其发送到Kafka主题。 2) 是否有任何其他源连接器可用于此场景 在性能和易开发性方面,哪种方法更好?i、 例如,开发生产商代码以读取文件并发送到Kafka,或者扩展连接器代码

我们有一个场景,卡夫卡制作人应该读取传入文件的列表,并将它们制作成卡夫卡主题。我读过FileSourceConnector(),但它只读取一个文件并发送添加到该文件的新行。不处理文件旋转。有几个问题: 1) 实现我们自己的生产者代码以满足我们的需求更好吗?还是我们可以扩展File Connector类以便它读取新文件并将其发送到Kafka主题。 2) 是否有任何其他源连接器可用于此场景

在性能和易开发性方面,哪种方法更好?i、 例如,开发生产商代码以读取文件并发送到Kafka,或者扩展连接器代码并对其进行更改

任何形式的反馈都将不胜感激!
谢谢大家!

你有没有看过《阿克卡溪流》——反应型卡夫卡


检查此示例:

您可以按照建议编写一个producer,或者更好的是,使用我个人直接使用的producer API编写您自己的连接器。我处理文件旋转,可以实时发布。要确保源系统和接收器系统上的文件完全相同(只需一次处理),这是一个棘手的部分