Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/5.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Dataframe Pyspark按列划分数据并写入拼花地板_Dataframe_Apache Spark_Pyspark - Fatal编程技术网

Dataframe Pyspark按列划分数据并写入拼花地板

Dataframe Pyspark按列划分数据并写入拼花地板,dataframe,apache-spark,pyspark,Dataframe,Apache Spark,Pyspark,我需要在单独的s3键中按列中的值编写拼花地板文件。列city有数千个值。迭代使用for循环,按每个列值过滤数据帧,然后编写拼花地板非常缓慢。有没有办法按列city对数据框进行分区并写入拼花地板文件 我现在在做什么- for city in cities: print(city) spark_df.filter(spark_df.city == city).write.mode('overwrite').parquet(f'reporting/date={date_string}/city

我需要在单独的s3键中按列中的值编写拼花地板文件。列
city
有数千个值。迭代使用for循环,按每个列值过滤数据帧,然后编写拼花地板非常缓慢。有没有办法按列
city
对数据框进行分区并写入拼花地板文件

我现在在做什么-

for city in cities:
  print(city)
  spark_df.filter(spark_df.city == city).write.mode('overwrite').parquet(f'reporting/date={date_string}/city={city}')

partitionBy函数解决了这个问题

spark_df.partitionBy('date', 'city').parquet('reporting')

但是我得到的“DataFrame”对象没有属性“parquet”