Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache kafka KafkaStream联接-多个looksup_Apache Kafka_Apache Kafka Streams - Fatal编程技术网

Apache kafka KafkaStream联接-多个looksup

Apache kafka KafkaStream联接-多个looksup,apache-kafka,apache-kafka-streams,Apache Kafka,Apache Kafka Streams,我们正在开发kafkastream实时应用程序,现在的用例是将流与多个(最多20个)物化KTable连接起来。 但对于每个连接,我需要在kstream上执行selectkey操作,以匹配所有查找 Emp<-> Dept EmpWithDept<-> branch EmpWithDeptbranch <-> Salary EmpWithDeptbranchcurrency <-> customer Emp部门 电子商务部 高级职员工资 EmpWit

我们正在开发kafkastream实时应用程序,现在的用例是将流与多个(最多20个)物化KTable连接起来。 但对于每个连接,我需要在kstream上执行selectkey操作,以匹配所有查找

Emp<-> Dept
EmpWithDept<-> branch
EmpWithDeptbranch <-> Salary
EmpWithDeptbranchcurrency <-> customer
Emp部门
电子商务部
高级职员工资
EmpWithDeptbranchcurrency客户
这个名单还在继续

我的帐户从所有这些查找中获取信息,并将其作为单个json发送给producer


这是最佳实践还是可以遵循的任何其他方法

这取决于您的用例——通常您所做的是“常规”方法——它没有错。谢谢@MatthiasJ。Sax@MatthiasJ.Sax由于我们将confluent platform与scala结合使用,在将KStream转换为KTable时,您更喜欢什么,使用日志压缩和回调作为KTable的中间主题,或者使用带有groupbykey和reduce操作的代码?这是个人的选择——中间主题是“cleaner”IMHO,因为UPSERT在语义上不同于和
reduce
——但它当然会带来开销。如果您希望避免主题的额外成本,那么使用reduce(如果您能够正确处理删除)是一个公平的折衷方案。顺便说一句:我们计划添加
KStream#toTable()
来解决这个问题。是的,我们急切地等待KStream到表的操作