Python 数据框内列表中的元素计数
当列表位于数据框列中时,我需要获取列表中每个元素的频率 在数据方面:Python 数据框内列表中的元素计数,python,pandas,Python,Pandas,当列表位于数据框列中时,我需要获取列表中每个元素的频率 在数据方面: din=pd.DataFrame({'x':[['a','b','c'],['a','e','d', 'c']]})` x 0 [a, b, c] 1 [a, e, d, c] 期望输出: f x 0 2 a 1 1 b 2 2 c 3 1 d 4 1 e 我可以将列表展开成行,然后执行分组,但这些数据可能很大(超过百万条记录),我想知道是否有更有效/直接
din=pd.DataFrame({'x':[['a','b','c'],['a','e','d', 'c']]})`
x
0 [a, b, c]
1 [a, e, d, c]
期望输出:
f x
0 2 a
1 1 b
2 2 c
3 1 d
4 1 e
我可以将列表展开成行,然后执行分组,但这些数据可能很大(超过百万条记录),我想知道是否有更有效/直接的方法
感谢列出的第一个值,然后按或计数器进行计数
:
a = pd.Series([item for sublist in din.x for item in sublist])
或:
或:
您也可以有一个这样的单内衬:
df = pd.Series(sum([item for item in din.x], [])).value_counts()
使用扁平化列表和计数器实际上非常简单
from matplotlib.cbook import flatten
from collections import Counter
din={'x':[['a','b','c'],['a','e','d', 'c']]}
for a,i in din.items() :
u=pd.DataFrame.from_dict(dict(Counter([*flatten(i)])), orient ='index').reset_index().rename(columns ={'index':a,0:str(a)+'_number'})
输出:
但是,如果din有多个键和值,则需要一个函数来执行相同的操作
from matplotlib.cbook import flatten
from collections import Counter
din={'x':[['a','b','c'],['a','e','d', 'c']], 'y': [['h','j'],['h','j','j']]}
def foo(x):
df = pd.DataFrame()
for a,i in x.items() :
u=pd.DataFrame.from_dict(dict(Counter([*flatten(i)])), orient ='index').reset_index().rename(columns ={'index':a,0:str(a)+'_number'})
df=pd.concat([df,u])
return df
foo(din)
我会使用pandas的分解
和值\u计数
,然后最后将其分配给一个帧
din.explode('x')。value_counts()。to_frame('fq')。reset_index()。sort_value('x'))
x fq
0 a 2
2 b 1
1 c 2
三维1
4 e 1
完美!从运行时角度看,这两种方法占用的时间几乎相同,但我还是使用了计数器。谢谢
from collections import Counter
from itertools import chain
df = pd.Series(Counter(chain(*din.x))).sort_index().rename_axis('x').reset_index(name='f')
print (df)
x f
0 a 2
1 b 1
2 c 2
3 d 1
4 e 1
df = pd.Series(sum([item for item in din.x], [])).value_counts()
from matplotlib.cbook import flatten
from collections import Counter
din={'x':[['a','b','c'],['a','e','d', 'c']]}
for a,i in din.items() :
u=pd.DataFrame.from_dict(dict(Counter([*flatten(i)])), orient ='index').reset_index().rename(columns ={'index':a,0:str(a)+'_number'})
from matplotlib.cbook import flatten
from collections import Counter
din={'x':[['a','b','c'],['a','e','d', 'c']], 'y': [['h','j'],['h','j','j']]}
def foo(x):
df = pd.DataFrame()
for a,i in x.items() :
u=pd.DataFrame.from_dict(dict(Counter([*flatten(i)])), orient ='index').reset_index().rename(columns ={'index':a,0:str(a)+'_number'})
df=pd.concat([df,u])
return df
foo(din)