在spark scala中写入数据之前,将所有null替换为空格
这就是我用在spark scala中写入数据之前,将所有null替换为空格,scala,apache-spark,spark-dataframe,Scala,Apache Spark,Spark Dataframe,这就是我用“替换所有null的方法 但我的问题是,这也替换了记录中的null。 比如说 在我的scipt后,无论在记录中找到annualment,我都会得到ament 只有在发现null列时,我如何替换null。请尝试下面的方法 val dfMainOutputFinalWithoutNull = dfMainOutputFinal.withColumn("concatenated", regexp_replace(col("concatenated"), "|^|null", "")).wit
“
替换所有null
的方法
但我的问题是,这也替换了记录中的null。
比如说
在我的scipt后,无论在记录中找到annualment
,我都会得到ament
只有在发现null列时,我如何替换null。请尝试下面的方法
val dfMainOutputFinalWithoutNull = dfMainOutputFinal.withColumn("concatenated", regexp_replace(col("concatenated"), "|^|null", "")).withColumnRenamed("concatenated", header)
你可以用
dfMainOutputFinal.na.fill(“”)
看
val dfMainOutputFinalWithoutNull = dfMainOutputFinal.withColumn("concatenated", regexp_replace(col("concatenated"), "|^|null", "")).withColumnRenamed("concatenated", header)