Scala 如何获取卡夫卡的最新偏移量
我想使用kafka+spark streaming构建一个应用程序,该应用程序将接收多个主题的数据。我不想使用这种方法Scala 如何获取卡夫卡的最新偏移量,scala,apache-spark,streaming,apache-kafka,Scala,Apache Spark,Streaming,Apache Kafka,我想使用kafka+spark streaming构建一个应用程序,该应用程序将接收多个主题的数据。我不想使用这种方法 def createDirectStream[ K: ClassTag, V: ClassTag, KD <: Decoder[K]: ClassTag, VD <: Decoder[V]: ClassTag, R: ClassTag] ( ssc: StreamingContext, kafkaParams: Map[String, String],
def createDirectStream[
K: ClassTag,
V: ClassTag,
KD <: Decoder[K]: ClassTag,
VD <: Decoder[V]: ClassTag,
R: ClassTag] (
ssc: StreamingContext,
kafkaParams: Map[String, String],
fromOffsets: Map[TopicAndPartition, Long],
messageHandler: MessageAndMetadata[K, V] => R
)
def createDirectStream[
K:类标签,
V:ClassTag,
KD如果Kafka中还没有消息,则每个分区的偏移量为0。如果您想在没有偏移量的情况下开始,可以使用重载,该重载不接受offset:Map[TopicAndPartition,Long]
参数:
def createDirectStream[
K: ClassTag,
V: ClassTag,
KD <: Decoder[K]: ClassTag,
VD <: Decoder[V]: ClassTag](
ssc: StreamingContext,
kafkaParams: Map[String, String],
topics: Set[String]
)
如果Kafka中还没有消息,则每个分区的偏移量为0。如果您想在没有偏移量的情况下开始,可以使用重载,该重载不接受offset:Map[TopicAndPartition,Long]参数:
def createDirectStream[
K: ClassTag,
V: ClassTag,
KD <: Decoder[K]: ClassTag,
VD <: Decoder[V]: ClassTag](
ssc: StreamingContext,
kafkaParams: Map[String, String],
topics: Set[String]
)