Apache kafka KafkaStream联接-多个looksup
我们正在开发kafkastream实时应用程序,现在的用例是将流与多个(最多20个)物化KTable连接起来。 但对于每个连接,我需要在kstream上执行selectkey操作,以匹配所有查找Apache kafka KafkaStream联接-多个looksup,apache-kafka,apache-kafka-streams,Apache Kafka,Apache Kafka Streams,我们正在开发kafkastream实时应用程序,现在的用例是将流与多个(最多20个)物化KTable连接起来。 但对于每个连接,我需要在kstream上执行selectkey操作,以匹配所有查找 Emp<-> Dept EmpWithDept<-> branch EmpWithDeptbranch <-> Salary EmpWithDeptbranchcurrency <-> customer Emp部门 电子商务部 高级职员工资 EmpWit
Emp<-> Dept
EmpWithDept<-> branch
EmpWithDeptbranch <-> Salary
EmpWithDeptbranchcurrency <-> customer
Emp部门
电子商务部
高级职员工资
EmpWithDeptbranchcurrency客户
这个名单还在继续
我的帐户从所有这些查找中获取信息,并将其作为单个json发送给producer
这是最佳实践还是可以遵循的任何其他方法 这取决于您的用例——通常您所做的是“常规”方法——它没有错。谢谢@MatthiasJ。Sax@MatthiasJ.Sax由于我们将confluent platform与scala结合使用,在将KStream转换为KTable时,您更喜欢什么,使用日志压缩和回调作为KTable的中间主题,或者使用带有groupbykey和reduce操作的代码?这是个人的选择——中间主题是“cleaner”IMHO,因为UPSERT在语义上不同于和
reduce
——但它当然会带来开销。如果您希望避免主题的额外成本,那么使用reduce(如果您能够正确处理删除)是一个公平的折衷方案。顺便说一句:我们计划添加KStream#toTable()
来解决这个问题。是的,我们急切地等待KStream到表的操作