Oracle11g 将数据从Oracle 11g流式传输到Kafka

Oracle11g 将数据从Oracle 11g流式传输到Kafka,oracle11g,apache-kafka-connect,Oracle11g,Apache Kafka Connect,我正在寻找将数据从Oracle 11g流式传输到Kafka的解决方案。我希望使用GoldenGate,但这似乎只适用于oracle12c。汇合平台是最好的方式吗 谢谢 OracleGoldenGate和Confluent Platform不可比较 Confluent Platform提供了完整的流媒体平台,是多个软件的集合,可用于流媒体传输数据,其中asGoldenGate是复制和数据集成软件 另外,GoldenGate对于数据库复制来说是高度可靠的,因为它保持了事务完整性,这对于目前的Kafk

我正在寻找将数据从Oracle 11g流式传输到Kafka的解决方案。我希望使用GoldenGate,但这似乎只适用于oracle12c。汇合平台是最好的方式吗


谢谢

Oracle
GoldenGate
Confluent Platform
不可比较

Confluent Platform
提供了完整的流媒体平台,是多个软件的集合,可用于流媒体传输数据,其中as
GoldenGate
是复制和数据集成软件


另外,
GoldenGate
对于数据库复制来说是高度可靠的,因为它保持了事务完整性,这对于目前的
Kafka Mirror Maker
Confluent的Replicator
来说是不可能的。

首先,一般的答案是:连接Oracle(数据库)的最佳方式对卡夫卡来说,实际上是将Confluent平台与卡夫卡的Connect API结合使用,并为GoldenGate提供一个随时可用的连接器。请参阅“认证连接器”一节中的GoldenGate/Oracle条目。列出的用于GoldenGate的Kafka连接器由Oracle维护

汇合平台是最好的方式吗

因此,一般来说,上述问题的答案是:“是的,是的。”

但是,正如您针对有关Oracle版本的特定问题所指出的,不幸的是,Oracle在其GoldenGate连接器的自述文件中包含以下信息:

支持的版本

Oracle GoldenGate Kafka连接处理程序/格式化程序已编码并 使用以下产品版本进行测试

  • 用于大数据的Oracle GoldenGate 12.2.0.1.1
  • 合流IO卡夫卡/卡夫卡连接0.9.0.1-cp1
Oracle GoldenGate Kafka Connect可能需要移植 处理程序/格式化程序与其他版本的Oracle GoldenGate for配合使用 大数据和/或融合IO Kafka/Kafka Connect

这意味着,至少据我所知,该连接器不能与Oracle 11g一起使用

抱歉,如果这不能回答您的具体问题。至少我想给你一些关于一般方法的反馈。如果我遇到一个更具体的答案,我会更新这篇文章


2017年3月15日更新:您目前的最佳选择是使用。但是,该连接器不能提供与Oracle原生GoldenGate连接器完全相同的功能集。

现在我正在使用ojdbc6连接到Oracle 11g。这已经足够好了,但还不够完美,尤其是在使用池模式检查原始表上是否有新的更新时

我还尝试使用某种模式读取所有表格,但效果不好


将Oracle DB连接到Kafka的最佳模式(特别是当表非常宽,列为列)时,要使用连接器的查询。这样,您就可以选择正确的字段并使用AVRO进行数字转换。

< P>如果您想要纯事务-也请考虑使用OpenLooRulpCalor。它支持Oracle数据库,从版本112.0.1. 它可以以两种格式向卡夫卡生成事务:

  • 经典格式-当每个事务都是一条卡夫卡消息时(每条卡夫卡消息有多个DML)

  • Debezium样式格式-事务被划分-每个DML都是一条Kafka消息


已经有了一个有效的版本。你可以试试。

我不是想暗示它们是可比的,但既然我不能使用金门,那么下一个最好的方法是什么…即使那需要定制解决方案来解决其中的一些问题。更新了我的答案,Confluent的JDBC连接器是目前最好的选择。谢谢你,这确实很有用回答我的问题。我已经开始使用Confluent JDBC Kafka Connect产品。Confluent的JDBC connector无法获得所有更改。所有模式都会导致跳过以不同于插入/更新顺序提交的行,因为它使用了简单的递增列方法。这是否回答了您的问题?