Scala 如何将Spark数据框写入拼花地板?

Scala 如何将Spark数据框写入拼花地板?,scala,apache-spark,spark-dataframe,Scala,Apache Spark,Spark Dataframe,我得到了一个spark应用程序,但当我尝试将数据框写入拼花地板时,文件夹成功创建,但文件夹中没有数据,只有一个名为“\u SUCCESS”的文件 这是我的密码: def writeToParquet(dataFrame: DataFrame, path: String): Unit = { dataFrame.write.parquet(s"$path.parquet") } 尝试这样做: 假设“df”是数据帧的名称,“tab1”是要将其存储为的表的名称 df.write.mode(S

我得到了一个spark应用程序,但当我尝试将数据框写入拼花地板时,文件夹成功创建,但文件夹中没有数据,只有一个名为“\u SUCCESS”的文件

这是我的密码:

def writeToParquet(dataFrame: DataFrame, path: String): Unit = {
    dataFrame.write.parquet(s"$path.parquet")
}
尝试这样做:

假设“df”是数据帧的名称,“tab1”是要将其存储为的表的名称

df.write.mode(SaveMode.Overwrite).format("parquet").saveAsTable("tab1")
注意:saveAsTable方法将数据表保存在配置的配置单元元存储中,如果这正是您的目标。如果有帮助,请告诉我。

尝试这样做:

假设“df”是数据帧的名称,“tab1”是要将其存储为的表的名称

df.write.mode(SaveMode.Overwrite).format("parquet").saveAsTable("tab1")

注意:saveAsTable方法将数据表保存在配置的配置单元元存储中,如果这正是您的目标。让我知道这是否有帮助。

您确定数据帧中有数据吗?是的,我对数据帧进行计数、显示……等操作,您尝试过其他格式吗?它是否产生相同的输出?
\u SUCCESS
表示作业已完成,因此空文件夹表示在“纱线”或“本地”中运行此作业时不会有任何数据。在“本地”模式下保存文件时,这是一个已知问题。您确定数据框中有数据吗?是的,我对数据框进行了计数、显示等操作…您尝试过其他格式吗?它是否产生相同的输出?
\u SUCCESS
表示作业已完成,因此空文件夹表示在“纱线”或“本地”中运行此作业时不会有任何数据。在“本地”模式下保存文件时,这是一个已知问题。如果需要将其保存为文件,只需将最后一个方法更改为
save
df.write.mode(SaveMode.Overwrite).format(“parquet”).save(“tab1”)
如果需要将其保存为文件,只需将最后一个方法更改为
save
df.write.mode(SaveMode.Overwrite).format(“拼花地板”)。保存(“表1”)