Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/scala/19.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181

Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Scala 如何获取卡夫卡的最新偏移量_Scala_Apache Spark_Streaming_Apache Kafka - Fatal编程技术网

Scala 如何获取卡夫卡的最新偏移量

Scala 如何获取卡夫卡的最新偏移量,scala,apache-spark,streaming,apache-kafka,Scala,Apache Spark,Streaming,Apache Kafka,我想使用kafka+spark streaming构建一个应用程序,该应用程序将接收多个主题的数据。我不想使用这种方法 def createDirectStream[ K: ClassTag, V: ClassTag, KD <: Decoder[K]: ClassTag, VD <: Decoder[V]: ClassTag, R: ClassTag] ( ssc: StreamingContext, kafkaParams: Map[String, String],

我想使用kafka+spark streaming构建一个应用程序,该应用程序将接收多个主题的数据。我不想使用这种方法

def createDirectStream[
K: ClassTag,
V: ClassTag,
KD <: Decoder[K]: ClassTag,
VD <: Decoder[V]: ClassTag,
R: ClassTag] (
  ssc: StreamingContext,
  kafkaParams: Map[String, String],
  fromOffsets: Map[TopicAndPartition, Long],
  messageHandler: MessageAndMetadata[K, V] => R
)
def createDirectStream[
K:类标签,
V:ClassTag,

KD如果Kafka中还没有消息,则每个分区的偏移量为0。如果您想在没有偏移量的情况下开始,可以使用重载,该重载不接受offset:Map[TopicAndPartition,Long]
参数:

def createDirectStream[
  K: ClassTag,
  V: ClassTag,
  KD <: Decoder[K]: ClassTag,
  VD <: Decoder[V]: ClassTag](
    ssc: StreamingContext,
    kafkaParams: Map[String, String],
    topics: Set[String]
)

如果Kafka中还没有消息,则每个分区的偏移量为0。如果您想在没有偏移量的情况下开始,可以使用重载,该重载不接受offset:Map[TopicAndPartition,Long]参数:

def createDirectStream[
  K: ClassTag,
  V: ClassTag,
  KD <: Decoder[K]: ClassTag,
  VD <: Decoder[V]: ClassTag](
    ssc: StreamingContext,
    kafkaParams: Map[String, String],
    topics: Set[String]
)