Pyspark 为每个元素分配唯一的键值流水线RDD
我有一个管道DRDD:Pyspark 为每个元素分配唯一的键值流水线RDD,pyspark,jupyter-notebook,bigdata,rdd,Pyspark,Jupyter Notebook,Bigdata,Rdd,我有一个管道DRDD: districts.take(5) ['004', '022', '008', '003', '001'] 我希望每个元素都有一个唯一的键,如: [(1,'004'), (2, '022'), etc....] 如何执行此操作?使用zipWithIndex()向rdd添加索引 districts=sc.parallelize(['004', '022', '008', '003', '001']) districts=districts.zipWithIndex()
districts.take(5)
['004', '022', '008', '003', '001']
我希望每个元素都有一个唯一的键,如:
[(1,'004'), (2, '022'), etc....]
如何执行此操作?使用zipWithIndex()向rdd添加索引
districts=sc.parallelize(['004', '022', '008', '003', '001'])
districts=districts.zipWithIndex()
districts.take(5)
[('004', 0), ('022', 1), ('008', 2), ('003', 3), ('001', 4)]
现在使用map切换值和索引的位置
districts=districts.map(lambda (x,y):(y,x))
districts.take(5)
[(0, '004'), (1, '022'), (2, '008'), (3, '003'), (4, '001')]
rdd.zipWithIndex()