Apache kafka 卡夫卡如何知道源数据何时发生了变化?

Apache kafka 卡夫卡如何知道源数据何时发生了变化?,apache-kafka,rdbms,apache-kafka-connect,Apache Kafka,Rdbms,Apache Kafka Connect,我找不到确切的答案,所以我想我应该问问专家。卡夫卡如何观察和检测给定源中的哪些数据发生了变化?例如,在关系数据库中 我想到了轮询,但它不是必须维护每个可用表的所有主键的数据集,然后运行检查是否有新的主键可用吗?因为内存可能不够持久,所以存储在哪里?这是一个非常普遍的问题,所以你可以想象答案是“视情况而定”。卡夫卡并没有追踪这件事本身。它由您拥有的任何Kafka客户端实现来完成。例如,如果实现卡夫卡连接源连接器,则可以将偏移量存储到卡夫卡本身中读取的数据的检查点。如果你只是在写一个制片人,那就不同

我找不到确切的答案,所以我想我应该问问专家。卡夫卡如何观察和检测给定源中的哪些数据发生了变化?例如,在关系数据库中


我想到了轮询,但它不是必须维护每个可用表的所有主键的数据集,然后运行检查是否有新的主键可用吗?因为内存可能不够持久,所以存储在哪里?

这是一个非常普遍的问题,所以你可以想象答案是“视情况而定”。卡夫卡并没有追踪这件事本身。它由您拥有的任何Kafka客户端实现来完成。例如,如果实现卡夫卡连接源连接器,则可以将偏移量存储到卡夫卡本身中读取的数据的检查点。如果你只是在写一个制片人,那就不同了。在汇合的JDBC源连接器中可以找到一个相当普遍的例子。它有多种加载模式,可以给你们一个灵活的想法