Python 熊猫:将一系列字母数字文本拆分并转换为列和行

Python 熊猫:将一系列字母数字文本拆分并转换为列和行,python,pandas,parsing,nlp,text-mining,Python,Pandas,Parsing,Nlp,Text Mining,当前数据框:我有一个熊猫数据框,每个员工都有一个文本代码(所有代码都以T开头)和代码旁边的相关频率。所有文本代码都有8个字符 +----------+-------------------------------------------------------------+ | emp_id | text | +----------+-------------------------

当前数据框:我有一个熊猫数据框,每个员工都有一个文本代码(所有代码都以T开头)和代码旁边的相关频率。所有文本代码都有8个字符

+----------+-------------------------------------------------------------+
|  emp_id  |   text                                                      |
+----------+-------------------------------------------------------------+
|   E0001  | [T0431516,-8,T0401531,-12,T0517519,12]                      |
|   E0002  | [T0701540,-1,T0431516,-2]                                   |
|   E0003  | [T0517519,-1,T0421531,-7,T0516319,9,T0500371,-6,T0309711,-3]|
|   E0004  | [T0516319,-3]                                               |
|   E0005  | [T0431516,2]                                                |
+----------+-------------------------------------------------------------+
预期数据框:我试图将文本代码作为单独的列显示在数据框中,如果员工有该代码的频率,则填充频率,否则为0

+----------+----------------------------------------------------------------------------------------+
|  emp_id  | T0431516 | T0401531 | T0517519 | T0701540 | T0421531 |  T0516319 | T0500371 | T0309711 |                                      
+----------+----------------------------------------------------------------------------------------+
|   E0001  | -8       | -12      | 12       | 0        | 0        | 0         | 0        | 0        |
|   E0002  | -2       | 0        | 0        | -1       | 0        | 0         | 0        | 0        |
|   E0003  | 0        | 0        | -1       | 0        | -7       | 9         | -6       | -3       |
|   E0004  | 0        | 0        | 0        | 0        | 0        | -3        | 0        | 0        |
|   E0005  | 2        | 0        | 0        | 0        | 0        | 0         | 0        | 0        |
+----------+----------------------------------------------------------------------------------------+
样本数据

pd.DataFrame({'emp_id' : {0: 'E0001', 1: 'E0002', 2: 'E0003', 3: 'E0004', 4: 'E0005'},
                'text' :  {0: '[T0431516,-8,T0401531,-12,T0517519,12]', 1: '[T0701540,-1,T0431516,-2]', 2: '[T0517519,-1,T0421531,-7,T0516319,9,T0500371,-6,T0309711,-3]', 3: '[T0516319,-3]', 4: '[T0431516,2]'}
                })

到目前为止,我的尝试没有成功。非常感谢任何指点/帮助

您可以
分解
数据帧,然后创建一个
透视表

df = pd.DataFrame({'emp_id' : ['E0001', 'E0002', 'E0003', 'E0004', 'E0005'],
                  'text' : [['T0431516',-8,'T0401531',-12,'T0517519',12],
                 ['T0701540',-1,'T0431516',-2],['T0517519',-1,'T0421531',-7,'T0516319',9,'T0500371',-6,'T0309711',-3],
                 ['T0516319',-3], ['T0431516',2]]})
df = df.explode('text')
df['freq'] = df['text'].shift(-1)
df = df[df['text'].str[0] == 'T']
df['freq'] = df['freq'].astype(int)
df = pd.pivot_table(df, index='emp_id', columns='text', values='freq',aggfunc = 'sum').fillna(0).astype(int)
df
Out[1]: 
text    T0309711  T0401531  T0421531  T0431516  T0500371  T0516319  T0517519  \
emp_id                                                                         
E0001          0       -12         0        -8         0         0        12   
E0002          0         0         0        -2         0         0         0   
E0003         -3         0        -7         0        -6         9        -1   
E0004          0         0         0         0         0        -3         0   
E0005          0         0         0         2         0         0         0   

text    T0701540  
emp_id            
E0001          0  
E0002         -1  
E0003          0  
E0004          0  
E0005          0  

在整个数据集中,所有的代码都以
T
开头吗?这些都是无效的列表。问题本身很有趣,但是手动将数据表解析为数据帧太痛苦了。。。。请看一看去这个网站的路。@BillHuang我的错,我完全忘了!请现在检查。不完全确定为什么“爆炸”功能不适用于我刚才上传的示例数据。有什么想法吗?@rudr,也许你需要把它转换成一个列表?没有错误,看起来它甚至在转换成列表后也没有任何作用。@rudr你正在为所有代码行设置结果吗?e、 g.
df=df.explode('text')
而不是
df.explode('text')
。还要检查这行代码:
df=df[df['text'].str[0]='T']
。在实际数据中,字符串是否以
T
开头?是的,基础数据存在问题。在修复它们并转换为列表后,它工作得非常好。再次感谢!