Apache kafka 卡夫卡连接转换不是';不适用

Apache kafka 卡夫卡连接转换不是';不适用,apache-kafka,apache-kafka-connect,Apache Kafka,Apache Kafka Connect,我在kerberised服务器上工作,使用分布式kafka connect。 连接器工作良好,只是完全忽略了转换部分。 我在日志中没有关于这个问题的警告、错误或任何信息 我的连接器没有转换,工作正常: { "name": "hdfs-avro-sink-X", "config": { "connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector", "

我在kerberised服务器上工作,使用分布式kafka connect。 连接器工作良好,只是完全忽略了转换部分。 我在日志中没有关于这个问题的警告、错误或任何信息

我的连接器没有转换,工作正常:

{
    "name": "hdfs-avro-sink-X",
    "config": {
                "connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector",
                "tasks.max": "1",
                "topics": "Y",
                "hdfs.url": "HA_name",
                "topics.dir": "/data/path",
                "logs.dir": "/tmp/path",
                "flush.size": "8800",
                "rotate.interval.ms": "6000",
                "hive.integration": "true",
                "hive.database": "hive_db_name",
                "hive.metastore.uris": "thrift://url:9083",
                "format.class": "io.confluent.connect.hdfs.avro.AvroFormat",
                "schema.compatibility": "BACKWARD",
                "hive.conf.dir": "/usr/hdp/current/hive/target-conf/",
                "hadoop.conf.dir": "/usr/hdp/current/hadoop/target-conf/",
                "hdfs.authentication.kerberos": "true",
                "connect.hdfs.principal": "principal",
                "connect.hdfs.keytab": "/keytab/path",
                "ssl.truststore.location": "truststore.jks",
                "ssl.truststore.password": "password",
                "security.protocol": "SASL_SSL",
                "ssl.keystore.location": "keystore.jks",
                "ssl.keystore.password": "password",
                "ssl.key.password": "password"               
    }
}

对于转换,将忽略转换:

{
    "name": "hdfs-avro-sink-X",
    "config": {
                "connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector",
                ... same conf
                "ssl.key.password": "password",
                "transforms": "MaskField",
                "transforms.MaskField.type": "org.apache.kafka.connect.transforms.MaskField$Value",
                "transforms.MaskField.fields": "ano_ass"
    }
}
我可以键入任何内容,但无论如何都会被忽略:

{
    "name": "hdfs-avro-sink-X",
    "config": {
                "connector.class": "io.confluent.connect.hdfs.HdfsSinkConnector",
                ... same conf
                "ssl.key.password": "password",
                "transforms": "Masgfdgfdgfdhield",
                "transforms.MaskField.type": "org.apache.kafka.connect.transforms.MaskField$Value",
                "transforms.MaskField.fields": "anfshdghgh_ass"
    }
}
我的avro架构中存在ano_ass字段 在ranger审计中没有问题

版本:

  • HDP:2.6.4
  • 卡夫卡:0.10.1
  • 模式注册表hortonworks

如果您运行的是0.10.1,那么SMT还不存在:)单消息转换是在2.5年前在0.10.2版中添加到Apache Kafka的

你可能想考虑运行一个最新版本的卡夫卡,最新版本是2.3。p> 它看起来像是包含ApacheKafka 2.0的。如果您想要卡夫卡(2.3)的最新版本,那么您可以从中获得,也可以作为