Warning: file_get_contents(/data/phpspider/zhask/data//catemap/2/scala/16.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python 如何计算RDD中特定行中的项目数_Python_Scala_Pyspark - Fatal编程技术网

Python 如何计算RDD中特定行中的项目数

Python 如何计算RDD中特定行中的项目数,python,scala,pyspark,Python,Scala,Pyspark,正如您所知,我对使用Pyspark Python相当陌生,我的RDD如下所示: 身份证、名字、姓氏、地址 身份证、名字、姓氏、地址 身份证、名字、姓氏、地址 身份证、名字、姓氏、地址 身份证、名字、姓氏、地址 无论如何,我都可以计算我在RDD中存储了多少记录,比如计算RDD中的所有ID。这样输出就会告诉我我有5个。 我尝试过使用RDD.count,但这似乎只是返回我的数据集中总共有多少项。如果您有RDD[ID,First name,Last name,Address]之类的元组RDD,那么您可以

正如您所知,我对使用Pyspark Python相当陌生,我的RDD如下所示: 身份证、名字、姓氏、地址 身份证、名字、姓氏、地址 身份证、名字、姓氏、地址 身份证、名字、姓氏、地址 身份证、名字、姓氏、地址 无论如何,我都可以计算我在RDD中存储了多少记录,比如计算RDD中的所有ID。这样输出就会告诉我我有5个。
我尝试过使用RDD.count,但这似乎只是返回我的数据集中总共有多少项。

如果您有RDD[ID,First name,Last name,Address]之类的元组RDD,那么您可以执行以下操作来进行不同类型的计数

计算RDD中元素/行的总数

rdd.count

计算与上述RDD不同的ID。选择ID元素,然后在其上执行一个distinct

rdd.maplambda x:x[0]。distinct.count

希望这有助于进行不同类型的计数

如果你需要进一步的帮助,请告诉我

问候,


Neeraj

发布您解决此问题的尝试,即code please.RDD.count这并没有返回我想要的内容不,甚至更多。例如,一个用于计算每条记录的自定义函数。你应该用更恰当的方式提问。你需要什么还不清楚。举例说明