Oracle11g 将数据从Oracle 11g流式传输到Kafka
我正在寻找将数据从Oracle 11g流式传输到Kafka的解决方案。我希望使用GoldenGate,但这似乎只适用于oracle12c。汇合平台是最好的方式吗Oracle11g 将数据从Oracle 11g流式传输到Kafka,oracle11g,apache-kafka-connect,Oracle11g,Apache Kafka Connect,我正在寻找将数据从Oracle 11g流式传输到Kafka的解决方案。我希望使用GoldenGate,但这似乎只适用于oracle12c。汇合平台是最好的方式吗 谢谢 OracleGoldenGate和Confluent Platform不可比较 Confluent Platform提供了完整的流媒体平台,是多个软件的集合,可用于流媒体传输数据,其中asGoldenGate是复制和数据集成软件 另外,GoldenGate对于数据库复制来说是高度可靠的,因为它保持了事务完整性,这对于目前的Kafk
谢谢 Oracle
GoldenGate
和Confluent Platform
不可比较
Confluent Platform
提供了完整的流媒体平台,是多个软件的集合,可用于流媒体传输数据,其中asGoldenGate
是复制和数据集成软件
另外,
GoldenGate
对于数据库复制来说是高度可靠的,因为它保持了事务完整性,这对于目前的Kafka Mirror Maker
或Confluent的Replicator
来说是不可能的。首先,一般的答案是:连接Oracle(数据库)的最佳方式对卡夫卡来说,实际上是将Confluent平台与卡夫卡的Connect API结合使用,并为GoldenGate提供一个随时可用的连接器。请参阅“认证连接器”一节中的GoldenGate/Oracle条目。列出的用于GoldenGate的Kafka连接器由Oracle维护
汇合平台是最好的方式吗
因此,一般来说,上述问题的答案是:“是的,是的。”
但是,正如您针对有关Oracle版本的特定问题所指出的,不幸的是,Oracle在其GoldenGate连接器的自述文件中包含以下信息:
支持的版本
Oracle GoldenGate Kafka连接处理程序/格式化程序已编码并
使用以下产品版本进行测试
- 用于大数据的Oracle GoldenGate 12.2.0.1.1
- 合流IO卡夫卡/卡夫卡连接0.9.0.1-cp1
2017年3月15日更新:您目前的最佳选择是使用。但是,该连接器不能提供与Oracle原生GoldenGate连接器完全相同的功能集。现在我正在使用ojdbc6连接到Oracle 11g。这已经足够好了,但还不够完美,尤其是在使用池模式检查原始表上是否有新的更新时 我还尝试使用某种模式读取所有表格,但效果不好
将Oracle DB连接到Kafka的最佳模式(特别是当表非常宽,列为列)时,要使用连接器的查询。这样,您就可以选择正确的字段并使用AVRO进行数字转换。 < P>如果您想要纯事务-也请考虑使用OpenLooRulpCalor。它支持Oracle数据库,从版本112.0.1. 它可以以两种格式向卡夫卡生成事务:
- 经典格式-当每个事务都是一条卡夫卡消息时(每条卡夫卡消息有多个DML)
- Debezium样式格式-事务被划分-每个DML都是一条Kafka消息
已经有了一个有效的版本。你可以试试。我不是想暗示它们是可比的,但既然我不能使用金门,那么下一个最好的方法是什么…即使那需要定制解决方案来解决其中的一些问题。更新了我的答案,Confluent的JDBC连接器是目前最好的选择。谢谢你,这确实很有用回答我的问题。我已经开始使用Confluent JDBC Kafka Connect产品。Confluent的JDBC connector无法获得所有更改。所有模式都会导致跳过以不同于插入/更新顺序提交的行,因为它使用了简单的递增列方法。这是否回答了您的问题?