Apache kafka 卡夫卡连接转换不是';不适用
我在kerberised服务器上工作,使用分布式kafka connect。 连接器工作良好,只是完全忽略了转换部分。 我在日志中没有关于这个问题的警告、错误或任何信息 我的连接器没有转换,工作正常:Apache kafka 卡夫卡连接转换不是';不适用,apache-kafka,apache-kafka-connect,Apache Kafka,Apache Kafka Connect,我在kerberised服务器上工作,使用分布式kafka connect。 连接器工作良好,只是完全忽略了转换部分。 我在日志中没有关于这个问题的警告、错误或任何信息 我的连接器没有转换,工作正常: { "name": "hdfs-avro-sink-X", "config": { "connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector", "
{
"name": "hdfs-avro-sink-X",
"config": {
"connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector",
"tasks.max": "1",
"topics": "Y",
"hdfs.url": "HA_name",
"topics.dir": "/data/path",
"logs.dir": "/tmp/path",
"flush.size": "8800",
"rotate.interval.ms": "6000",
"hive.integration": "true",
"hive.database": "hive_db_name",
"hive.metastore.uris": "thrift://url:9083",
"format.class": "io.confluent.connect.hdfs.avro.AvroFormat",
"schema.compatibility": "BACKWARD",
"hive.conf.dir": "/usr/hdp/current/hive/target-conf/",
"hadoop.conf.dir": "/usr/hdp/current/hadoop/target-conf/",
"hdfs.authentication.kerberos": "true",
"connect.hdfs.principal": "principal",
"connect.hdfs.keytab": "/keytab/path",
"ssl.truststore.location": "truststore.jks",
"ssl.truststore.password": "password",
"security.protocol": "SASL_SSL",
"ssl.keystore.location": "keystore.jks",
"ssl.keystore.password": "password",
"ssl.key.password": "password"
}
}
对于转换,将忽略转换:
{
"name": "hdfs-avro-sink-X",
"config": {
"connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector",
... same conf
"ssl.key.password": "password",
"transforms": "MaskField",
"transforms.MaskField.type": "org.apache.kafka.connect.transforms.MaskField$Value",
"transforms.MaskField.fields": "ano_ass"
}
}
我可以键入任何内容,但无论如何都会被忽略:
{
"name": "hdfs-avro-sink-X",
"config": {
"connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector",
... same conf
"ssl.key.password": "password",
"transforms": "Masgfdgfdgfdhield",
"transforms.MaskField.type": "org.apache.kafka.connect.transforms.MaskField$Value",
"transforms.MaskField.fields": "anfshdghgh_ass"
}
}
我的avro架构中存在ano_ass字段
在ranger审计中没有问题
版本:
- HDP:2.6.4
- 卡夫卡:0.10.1
- 模式注册表hortonworks
你可能想考虑运行一个最新版本的卡夫卡,最新版本是2.3。p> 它看起来像是包含ApacheKafka 2.0的。如果您想要卡夫卡(2.3)的最新版本,那么您可以从中获得,也可以作为