Warning: file_get_contents(/data/phpspider/zhask/data//catemap/3/apache-spark/6.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Apache spark 无法将聚合数据放入内存_Apache Spark_Pyspark - Fatal编程技术网

Apache spark 无法将聚合数据放入内存

Apache spark 无法将聚合数据放入内存,apache-spark,pyspark,Apache Spark,Pyspark,我想将聚合数据放入内存,但出现错误。有什么建议吗 orders=spark.read.json(“/user/order\u items\u json”) df_2=订单。其中(“订单项目订单id==2”).groupby(“订单项目订单id”) df_2.持久化(仅限StorageLevel.MEMORY_)** 回溯(最近一次呼叫最后一次): 文件“”,第1行,在 AttributeError:“GroupedData”对象没有属性“persist”Spark要求对分组数据使用聚合表达式 如

我想将聚合数据放入内存,但出现错误。有什么建议吗

orders=spark.read.json(“/user/order\u items\u json”)

df_2=订单。其中(“订单项目订单id==2”).groupby(“订单项目订单id”)

df_2.持久化(仅限StorageLevel.MEMORY_)**

回溯(最近一次呼叫最后一次): 文件“”,第1行,在
AttributeError:“GroupedData”对象没有属性“persist”

Spark要求对分组数据使用聚合表达式

如果您不需要对分组数据进行任何聚合,那么我们可以先进行一些虚拟聚合,如,计数…等,然后从
中删除列。选择如下所示的

import pyspark

df_2 = orders.where("order_item_order_id == 2").groupby("order_item_order_id").agg(first(lit("1"))).select("order_item_order_id")
#or
df_2 = orders.where("order_item_order_id == 2").groupby("order_item_order_id").count().select("order_item_order_id")

df_2.persist(pyspark.StorageLevel.MEMORY_ONLY)

非常感谢你…我也意识到我错过了功能。。。。非常感谢您的及时回复。你好,舒,我不知道我需要点击哪里来关闭此线程。