Scala Spark Dataframe.write()完成百分比

Scala Spark Dataframe.write()完成百分比,scala,apache-spark,spark-dataframe,Scala,Apache Spark,Spark Dataframe,我正在尝试将数据帧写入文件。由于数据帧相当大,我想知道写操作的进度百分比状态,因为它会持续执行很长时间 myDataFrame .filter(myFilter) .write .json(ExportPath) 有没有办法知道写入文件的数据百分比? 或者至少获取单独完成的分区数?要进行快速手动检查,您可以在中检查已处理的数据量。对于更自动化的数据访问方式,或很有帮助

我正在尝试将数据帧写入文件。由于数据帧相当大,我想知道写操作的进度百分比状态,因为它会持续执行很长时间

myDataFrame
    .filter(myFilter)
    .write
    .json(ExportPath)
有没有办法知道写入文件的数据百分比?
或者至少获取单独完成的分区数?

要进行快速手动检查,您可以在中检查已处理的数据量。对于更自动化的数据访问方式,或很有帮助