Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/joomla/2.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 如何在执行者之间均匀分布数据_Apache Spark_Pyspark_Apache Spark Sql - Fatal编程技术网

Apache spark 如何在执行者之间均匀分布数据

Apache spark 如何在执行者之间均匀分布数据,apache-spark,pyspark,apache-spark-sql,Apache Spark,Pyspark,Apache Spark Sql,我使用dfs中的read.parquet()从拼花文件中读取数据帧并将其缓存。但是,我如何在遗嘱执行人之间平均分配 RDD.collect() 我使用Cloudera集群,只要它有用就添加。从Parquet RDD收集数据,并使用广播变量使其可在执行器中访问 RDD.collect()

我使用dfs中的
read.parquet()
从拼花文件中读取数据帧并将其缓存。但是,我如何在遗嘱执行人之间平均分配

RDD.collect()


我使用Cloudera集群,只要它有用就添加。

从Parquet RDD收集数据,并使用广播变量使其可在执行器中访问

RDD.collect()