Warning: file_get_contents(/data/phpspider/zhask/data//catemap/1/cassandra/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181

Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/apache-kafka/3.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181

Warning: file_get_contents(/data/phpspider/zhask/data//catemap/4/wpf/12.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Cassandra 如何使用卡夫卡连接卡桑德拉而不合流_Cassandra_Apache Kafka_Apache Kafka Connect - Fatal编程技术网

Cassandra 如何使用卡夫卡连接卡桑德拉而不合流

Cassandra 如何使用卡夫卡连接卡桑德拉而不合流,cassandra,apache-kafka,apache-kafka-connect,Cassandra,Apache Kafka,Apache Kafka Connect,我们如何在不使用融合框架的情况下使用卡夫卡连接卡桑德拉。卡夫卡连接就是这个框架。Confluent仅提供连接器。如果您不想使用Confluent开源(但为什么不呢?),您也可以将所有这些连接器与香草ApacheKafka一起使用 有多个Casandra连接器可用: 顺便说一句:Confluent没有维护列出的Casandra连接器 当然,您也可以编写自己的连接器或使用任何其他第三方连接器。具有可与Kafka Connect一起使用的Cassandra源和接收器解决方案 将jar文件()放入Kaf

我们如何在不使用融合框架的情况下使用卡夫卡连接卡桑德拉。

卡夫卡连接就是这个框架。Confluent仅提供连接器。如果您不想使用Confluent开源(但为什么不呢?),您也可以将所有这些连接器与香草ApacheKafka一起使用

有多个Casandra连接器可用:

顺便说一句:Confluent没有维护列出的Casandra连接器

当然,您也可以编写自己的连接器或使用任何其他第三方连接器。

具有可与Kafka Connect一起使用的Cassandra源和接收器解决方案

将jar文件()放入Kafka libs文件夹,然后按如下方式指定连接器:

{
"name": "cassandra-NAME",
"config": {
    "tasks.max": "1",
    "connector.class": "com.datamountaineer.streamreactor.connect.cassandra.source.CassandraSourceConnector",
    "connect.cassandra.key.space": "KEYSPACE",
    "connect.cassandra.source.kcql": "INSERT INTO KAFKA_TOPIC SELECT column1, timestamp_col FROM CASSANDRA_TABLE PK timestamp_col",
    "connect.cassandra.import.mode": "incremental",
    "connect.cassandra.contact.points": "localhost",
    "connect.cassandra.port": 9042,
    "connect.cassandra.import.poll.interval": 10000
}}
启动卡夫卡连接

bin/connect-distributed.sh config/connect-distributed.properties
并通过上面提到的JSON属性文件将Cassandra连接器加载到Kafka Connect中(假设其名称为Connect Cassandra source.JSON)


您将需要创建一个以timeuuid列作为集群键的表。在我的例子中,访问数据库的基本概念是使用查询SQL/CQL。connect还对数据库执行查询以存储数据或获取数据。如果我建立一个用户组,一个用于处理,另一个用于将数据存储到DB,一个用于存储到DB,比如DB consumer,那么它的工作就是只将数据存储到数据库中,我可以使用ORM轻松地完成,我还将对其进行完全透明和控制。所以我关心的是它在性能和速度方面与这种类型的(DB消费者)消费者有什么不同。提前感谢您在这方面的帮助和帮助。连接作为一个框架负责故障转移,您也可以在分布式模式下运行它来扩展数据导入/导出“作业”。因此,连接真的是一种“火而忘”的体验。此外,对于Connect,您不需要编写任何代码,只需配置连接器即可。Confluent cp kafka Connect没有cassandra连接器您可以在Confluent Hub上找到cassandra连接器:
curl -X POST -H "Content-Type: application/json" -d @config/connect-cassandra-source.json localhost:8083/connectors