Python 如何透视数据帧? 什么是支点 我如何旋转 这是一个支点吗 长格式到宽格式

Python 如何透视数据帧? 什么是支点 我如何旋转 这是一个支点吗 长格式到宽格式,python,pandas,group-by,pivot,pandas-groupby,Python,Pandas,Group By,Pivot,Pandas Groupby,我见过很多关于透视表的问题。即使他们不知道他们询问的是数据透视表,他们通常都知道。几乎不可能写出一个包含旋转的所有方面的规范问题和答案 。。。但我要试一试 现有问题和答案的问题是,问题往往集中在OP难以概括的细微差别上,以便使用一些现有的好答案。然而,没有一个答案试图给出一个全面的解释(因为这是一项艰巨的任务) 请看我的文章中的几个例子 问得好,回答得好。但答案只回答了具体问题,几乎没有解释 在这个问题中,OP与枢轴的输出有关。即列的外观。OP希望它看起来像R。这对熊猫用户没有多大帮

我见过很多关于透视表的问题。即使他们不知道他们询问的是数据透视表,他们通常都知道。几乎不可能写出一个包含旋转的所有方面的规范问题和答案

。。。但我要试一试


现有问题和答案的问题是,问题往往集中在OP难以概括的细微差别上,以便使用一些现有的好答案。然而,没有一个答案试图给出一个全面的解释(因为这是一项艰巨的任务)

请看我的文章中的几个例子

    • 问得好,回答得好。但答案只回答了具体问题,几乎没有解释
    • 在这个问题中,OP与枢轴的输出有关。即列的外观。OP希望它看起来像R。这对熊猫用户没有多大帮助
    • 另一个不错的问题,但答案集中在一种方法上,即
      pd.DataFrame.pivot
    因此,每当有人搜索
    pivot
    时,他们都会得到零星的结果,这些结果可能无法回答他们的特定问题


    安装程序 您可能会注意到,我显著地命名了我的列和相关的列值,以符合我将如何在下面的答案中旋转

    import numpy as np
    import pandas as pd
    from numpy.core.defchararray import add
    
    np.random.seed([3,1415])
    n = 20
    
    cols = np.array(['key', 'row', 'item', 'col'])
    arr1 = (np.random.randint(5, size=(n, 4)) // [2, 1, 2, 1]).astype(str)
    
    df = pd.DataFrame(
        add(cols, arr1), columns=cols
    ).join(
        pd.DataFrame(np.random.rand(n, 2).round(2)).add_prefix('val')
    )
    print(df)
    
         key   row   item   col  val0  val1
    0   key0  row3  item1  col3  0.81  0.04
    1   key1  row2  item1  col2  0.44  0.07
    2   key1  row0  item1  col0  0.77  0.01
    3   key0  row4  item0  col2  0.15  0.59
    4   key1  row0  item2  col1  0.81  0.64
    5   key1  row2  item2  col4  0.13  0.88
    6   key2  row4  item1  col3  0.88  0.39
    7   key1  row4  item1  col1  0.10  0.07
    8   key1  row0  item2  col4  0.65  0.02
    9   key1  row2  item0  col2  0.35  0.61
    10  key2  row0  item2  col1  0.40  0.85
    11  key2  row4  item1  col2  0.64  0.25
    12  key0  row2  item2  col3  0.50  0.44
    13  key0  row4  item1  col4  0.24  0.46
    14  key1  row3  item2  col3  0.28  0.11
    15  key0  row3  item1  col1  0.31  0.23
    16  key0  row0  item2  col3  0.86  0.01
    17  key0  row4  item0  col3  0.64  0.21
    18  key2  row2  item2  col0  0.13  0.45
    19  key0  row2  item0  col4  0.37  0.70
    
    问题:
  • 为什么要获取
    ValueError:索引包含重复的条目,无法重塑

  • 如何透视
    df
    ,使
    col
    值为列,
    row
    值为索引,
    val0的平均值为值

     col   col0   col1   col2   col3  col4
     row                                  
     row0  0.77  0.605    NaN  0.860  0.65
     row2  0.13    NaN  0.395  0.500  0.25
     row3   NaN  0.310    NaN  0.545   NaN
     row4   NaN  0.100  0.395  0.760  0.24
    
  • 如何透视
    df
    ,使
    col
    值为列,
    row
    值为索引,
    val0
    的平均值为值,缺少的值为
    0

     col   col0   col1   col2   col3  col4
     row                                  
     row0  0.77  0.605  0.000  0.860  0.65
     row2  0.13  0.000  0.395  0.500  0.25
     row3  0.00  0.310  0.000  0.545  0.00
     row4  0.00  0.100  0.395  0.760  0.24
    
  • 我能得到一些非
    平均值
    ,比如可能的
    总和

     col   col0  col1  col2  col3  col4
     row                               
     row0  0.77  1.21  0.00  0.86  0.65
     row2  0.13  0.00  0.79  0.50  0.50
     row3  0.00  0.31  0.00  1.09  0.00
     row4  0.00  0.10  0.79  1.52  0.24
    
  • 我可以一次进行多个聚合吗

            sum                          mean                           
     col   col0  col1  col2  col3  col4  col0   col1   col2   col3  col4
     row                                                                
     row0  0.77  1.21  0.00  0.86  0.65  0.77  0.605  0.000  0.860  0.65
     row2  0.13  0.00  0.79  0.50  0.50  0.13  0.000  0.395  0.500  0.25
     row3  0.00  0.31  0.00  1.09  0.00  0.00  0.310  0.000  0.545  0.00
     row4  0.00  0.10  0.79  1.52  0.24  0.00  0.100  0.395  0.760  0.24
    
  • 我可以聚合多个值列吗

           val0                             val1                          
     col   col0   col1   col2   col3  col4  col0   col1  col2   col3  col4
     row                                                                  
     row0  0.77  0.605  0.000  0.860  0.65  0.01  0.745  0.00  0.010  0.02
     row2  0.13  0.000  0.395  0.500  0.25  0.45  0.000  0.34  0.440  0.79
     row3  0.00  0.310  0.000  0.545  0.00  0.00  0.230  0.00  0.075  0.00
     row4  0.00  0.100  0.395  0.760  0.24  0.00  0.070  0.42  0.300  0.46
    
     item item0             item1                         item2                   
     col   col2  col3  col4  col0  col1  col2  col3  col4  col0   col1  col3  col4
     row                                                                          
     row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.605  0.86  0.65
     row2  0.35  0.00  0.37  0.00  0.00  0.44  0.00  0.00  0.13  0.000  0.50  0.13
     row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.000  0.28  0.00
     row4  0.15  0.64  0.00  0.00  0.10  0.64  0.88  0.24  0.00  0.000  0.00  0.00
    
  • 可以按多列细分吗

           val0                             val1                          
     col   col0   col1   col2   col3  col4  col0   col1  col2   col3  col4
     row                                                                  
     row0  0.77  0.605  0.000  0.860  0.65  0.01  0.745  0.00  0.010  0.02
     row2  0.13  0.000  0.395  0.500  0.25  0.45  0.000  0.34  0.440  0.79
     row3  0.00  0.310  0.000  0.545  0.00  0.00  0.230  0.00  0.075  0.00
     row4  0.00  0.100  0.395  0.760  0.24  0.00  0.070  0.42  0.300  0.46
    
     item item0             item1                         item2                   
     col   col2  col3  col4  col0  col1  col2  col3  col4  col0   col1  col3  col4
     row                                                                          
     row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.605  0.86  0.65
     row2  0.35  0.00  0.37  0.00  0.00  0.44  0.00  0.00  0.13  0.000  0.50  0.13
     row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.000  0.28  0.00
     row4  0.15  0.64  0.00  0.00  0.10  0.64  0.88  0.24  0.00  0.000  0.00  0.00
    
  •  item      item0             item1                         item2                  
     col        col2  col3  col4  col0  col1  col2  col3  col4  col0  col1  col3  col4
     key  row                                                                         
     key0 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.86  0.00
          row2  0.00  0.00  0.37  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.50  0.00
          row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.00  0.00  0.00
          row4  0.15  0.64  0.00  0.00  0.00  0.00  0.00  0.24  0.00  0.00  0.00  0.00
     key1 row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.81  0.00  0.65
          row2  0.35  0.00  0.00  0.00  0.00  0.44  0.00  0.00  0.00  0.00  0.00  0.13
          row3  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.28  0.00
          row4  0.00  0.00  0.00  0.00  0.10  0.00  0.00  0.00  0.00  0.00  0.00  0.00
     key2 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.40  0.00  0.00
          row2  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.13  0.00  0.00  0.00
          row4  0.00  0.00  0.00  0.00  0.00  0.64  0.88  0.00  0.00  0.00  0.00  0.00
    
  • 我是否可以聚合列和行同时出现的频率,即“交叉制表”

  • 如何通过仅以两列为轴将数据帧从长转换为宽?鉴于

    np.random.seed([3, 1415])
    df2 = pd.DataFrame({'A': list('aaaabbbc'), 'B': np.random.choice(15, 8)})        
    df2        
       A   B
    0  a   0
    1  a  11
    2  a   2
    3  a  11
    4  b  10
    5  b  10
    6  b  14
    7  c   7
    
    预期结果应该类似于

          a     b    c
    0   0.0  10.0  7.0
    1  11.0  10.0  NaN
    2   2.0  14.0  NaN
    3  11.0   NaN  NaN
    
  • 如何在透视后将多个索引展平为单个索引


  • 我们首先回答第一个问题:

    问题1 为什么要获取
    ValueError:索引包含重复的条目,无法重塑

    发生这种情况是因为pandas正在尝试重新索引具有重复项的
    索引
    对象。可以使用不同的方法来执行透视。它们中的一些不太适合在有重复的按键时使用。例如考虑<代码> Pd.DATAFRAME.PIVOT < /代码>。我知道有重复条目共享
    值:

    df.duplicated(['row', 'col']).any()
    
    True
    
    所以当我使用

    df.pivot(index='row', columns='col', values='val0')
    
    我得到了上面提到的错误。事实上,当我尝试执行相同的任务时,我会遇到相同的错误:

    df.set_index(['row', 'col'])['val0'].unstack()
    
    下面是一个我们可以用来透视的习语列表

  • +
    • 对于任何类型的轴心来说,都是一种很好的通用方法
    • 您可以指定将在一个分组中构成数据透视行级别和列级别的所有列。然后选择要聚合的其余列和要执行聚合的函数。最后,您可以
      unstack
      要在列索引中的级别
    • groupby的美化版,具有更直观的API。对于许多人来说,这是首选的方法。这是开发人员预期的方法
    • 指定行级别、列级别、要聚合的值以及执行聚合的函数
  • +
    • 对某些人(包括我自己)来说方便直观。无法处理重复的分组键
    • groupby
      范例类似,我们指定最终为行或列级别的所有列,并将它们设置为索引。然后,我们将
      unstack
      列中所需的级别。如果剩余的索引级别或列级别不唯一,则此方法将失败
    • 非常类似于
      set_index
      ,因为它共享重复键限制。API也非常有限。它只接受
      索引
      的标量值
    • 类似于
      pivot\u table
      方法,我们选择要透视的行、列和值。但是,我们无法聚合,如果行或列不是唯一的,此方法将失败
    • 这是一个专门版本的
      pivot_table
      ,以其最纯粹的形式是执行多个任务的最直观的方式
  • +
    • 这是一种非常先进的技术,虽然非常模糊,但速度非常快。它不能在所有情况下都使用,但是当它可以使用并且您可以舒适地使用它时,您将获得性能奖励
  • +
    • 我使用它巧妙地执行交叉制表

  • 例子 对于后续的每个答案和问题,我要做的是使用
    pd.DataFrame.pivot\u表回答它。然后,我将提供执行相同任务的备选方案

    问题3 我如何旋转
    df
    使
    df.set_index(['row', 'col'])['val0'].unstack()
    
        df.pivot_table(
            values='val0', index='row', columns='col',
            fill_value=0, aggfunc='mean')
    
        col   col0   col1   col2   col3  col4
        row                                  
        row0  0.77  0.605  0.000  0.860  0.65
        row2  0.13  0.000  0.395  0.500  0.25
        row3  0.00  0.310  0.000  0.545  0.00
        row4  0.00  0.100  0.395  0.760  0.24
    
      df.groupby(['row', 'col'])['val0'].mean().unstack(fill_value=0)
    
      pd.crosstab(
          index=df['row'], columns=df['col'],
          values=df['val0'], aggfunc='mean').fillna(0)
    
      df.pivot_table(
          values='val0', index='row', columns='col',
          fill_value=0, aggfunc='sum')
    
      col   col0  col1  col2  col3  col4
      row                               
      row0  0.77  1.21  0.00  0.86  0.65
      row2  0.13  0.00  0.79  0.50  0.50
      row3  0.00  0.31  0.00  1.09  0.00
      row4  0.00  0.10  0.79  1.52  0.24
    
      df.groupby(['row', 'col'])['val0'].sum().unstack(fill_value=0)
    
      pd.crosstab(
          index=df['row'], columns=df['col'],
          values=df['val0'], aggfunc='sum').fillna(0)
    
      df.pivot_table(
          values='val0', index='row', columns='col',
          fill_value=0, aggfunc=[np.size, np.mean])
    
           size                      mean                           
      col  col0 col1 col2 col3 col4  col0   col1   col2   col3  col4
      row                                                           
      row0    1    2    0    1    1  0.77  0.605  0.000  0.860  0.65
      row2    1    0    2    1    2  0.13  0.000  0.395  0.500  0.25
      row3    0    1    0    2    0  0.00  0.310  0.000  0.545  0.00
      row4    0    1    2    2    1  0.00  0.100  0.395  0.760  0.24
    
      df.groupby(['row', 'col'])['val0'].agg(['size', 'mean']).unstack(fill_value=0)
    
      pd.crosstab(
          index=df['row'], columns=df['col'],
          values=df['val0'], aggfunc=[np.size, np.mean]).fillna(0, downcast='infer')
    
      df.pivot_table(
          values=['val0', 'val1'], index='row', columns='col',
          fill_value=0, aggfunc='mean')
    
            val0                             val1                          
      col   col0   col1   col2   col3  col4  col0   col1  col2   col3  col4
      row                                                                  
      row0  0.77  0.605  0.000  0.860  0.65  0.01  0.745  0.00  0.010  0.02
      row2  0.13  0.000  0.395  0.500  0.25  0.45  0.000  0.34  0.440  0.79
      row3  0.00  0.310  0.000  0.545  0.00  0.00  0.230  0.00  0.075  0.00
      row4  0.00  0.100  0.395  0.760  0.24  0.00  0.070  0.42  0.300  0.46
    
      df.groupby(['row', 'col'])['val0', 'val1'].mean().unstack(fill_value=0)
    
      df.pivot_table(
          values='val0', index='row', columns=['item', 'col'],
          fill_value=0, aggfunc='mean')
    
      item item0             item1                         item2                   
      col   col2  col3  col4  col0  col1  col2  col3  col4  col0   col1  col3  col4
      row                                                                          
      row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.605  0.86  0.65
      row2  0.35  0.00  0.37  0.00  0.00  0.44  0.00  0.00  0.13  0.000  0.50  0.13
      row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.000  0.28  0.00
      row4  0.15  0.64  0.00  0.00  0.10  0.64  0.88  0.24  0.00  0.000  0.00  0.00
    
      df.groupby(
          ['row', 'item', 'col']
      )['val0'].mean().unstack(['item', 'col']).fillna(0).sort_index(1)
    
      df.pivot_table(
          values='val0', index=['key', 'row'], columns=['item', 'col'],
          fill_value=0, aggfunc='mean')
    
      item      item0             item1                         item2                  
      col        col2  col3  col4  col0  col1  col2  col3  col4  col0  col1  col3  col4
      key  row                                                                         
      key0 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.86  0.00
           row2  0.00  0.00  0.37  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.50  0.00
           row3  0.00  0.00  0.00  0.00  0.31  0.00  0.81  0.00  0.00  0.00  0.00  0.00
           row4  0.15  0.64  0.00  0.00  0.00  0.00  0.00  0.24  0.00  0.00  0.00  0.00
      key1 row0  0.00  0.00  0.00  0.77  0.00  0.00  0.00  0.00  0.00  0.81  0.00  0.65
           row2  0.35  0.00  0.00  0.00  0.00  0.44  0.00  0.00  0.00  0.00  0.00  0.13
           row3  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.28  0.00
           row4  0.00  0.00  0.00  0.00  0.10  0.00  0.00  0.00  0.00  0.00  0.00  0.00
      key2 row0  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.40  0.00  0.00
           row2  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.00  0.13  0.00  0.00  0.00
           row4  0.00  0.00  0.00  0.00  0.00  0.64  0.88  0.00  0.00  0.00  0.00  0.00
    
      df.groupby(
          ['key', 'row', 'item', 'col']
      )['val0'].mean().unstack(['item', 'col']).fillna(0).sort_index(1)
    
      df.set_index(
          ['key', 'row', 'item', 'col']
      )['val0'].unstack(['item', 'col']).fillna(0).sort_index(1)
    
      df.pivot_table(index='row', columns='col', fill_value=0, aggfunc='size')
    
          col   col0  col1  col2  col3  col4
      row                               
      row0     1     2     0     1     1
      row2     1     0     2     1     2
      row3     0     1     0     2     0
      row4     0     1     2     2     1
    
      df.groupby(['row', 'col'])['val0'].size().unstack(fill_value=0)
    
      pd.crosstab(df['row'], df['col'])
    
      # get integer factorization `i` and unique values `r`
      # for column `'row'`
      i, r = pd.factorize(df['row'].values)
      # get integer factorization `j` and unique values `c`
      # for column `'col'`
      j, c = pd.factorize(df['col'].values)
      # `n` will be the number of rows
      # `m` will be the number of columns
      n, m = r.size, c.size
      # `i * m + j` is a clever way of counting the 
      # factorization bins assuming a flat array of length
      # `n * m`.  Which is why we subsequently reshape as `(n, m)`
      b = np.bincount(i * m + j, minlength=n * m).reshape(n, m)
      # BTW, whenever I read this, I think 'Bean, Rice, and Cheese'
      pd.DataFrame(b, r, c)
    
            col3  col2  col0  col1  col4
      row3     2     0     0     1     0
      row2     1     2     1     0     2
      row0     1     0     1     2     1
      row4     2     2     0     1     1
    
      pd.get_dummies(df['row']).T.dot(pd.get_dummies(df['col']))
    
            col0  col1  col2  col3  col4
      row0     1     2     0     1     1
      row2     1     0     2     1     2
      row3     0     1     0     2     0
      row4     0     1     2     2     1
    
    df2.insert(0, 'count', df2.groupby('A').cumcount())
    df2
    
       count  A   B
    0      0  a   0
    1      1  a  11
    2      2  a   2
    3      3  a  11
    4      0  b  10
    5      1  b  10
    6      2  b  14
    7      0  c   7
    
    df2.pivot(*df2)
    # df2.pivot(index='count', columns='A', values='B')
    
    A         a     b    c
    count                 
    0       0.0  10.0  7.0
    1      11.0  10.0  NaN
    2       2.0  14.0  NaN
    3      11.0   NaN  NaN
    
    df.columns = df.columns.map('|'.join)
    
    df.columns = df.columns.map('{0[0]}|{0[1]}'.format) 
    
    d = data = {'A': {0: 1, 1: 1, 2: 1, 3: 2, 4: 2, 5: 3, 6: 5},
     'B': {0: 'a', 1: 'b', 2: 'c', 3: 'a', 4: 'b', 5: 'a', 6: 'c'}}
    df = pd.DataFrame(d)
    
       A  B
    0  1  a
    1  1  b
    2  1  c
    3  2  a
    4  2  b
    5  3  a
    6  5  c
    
       0     1     2
    A
    1  a     b     c
    2  a     b  None
    3  a  None  None
    5  c  None  None
    
    t = df.groupby('A')['B'].apply(list)
    out = pd.DataFrame(t.tolist(),index=t.index)
    out
       0     1     2
    A
    1  a     b     c
    2  a     b  None
    3  a  None  None
    5  c  None  None
    
    t = df.pivot_table(index='A',values='B',aggfunc=list).squeeze()
    out = pd.DataFrame(t.tolist(),index=t.index)
    
    df = pd.DataFrame({
        'foo': ['one', 'one', 'one', 'two', 'two', 'two'],
        'bar': ['A', 'B', 'C', 'A', 'B', 'C'],
        'baz': [1, 2, 3, 4, 5, 6],
        'zoo': ['x', 'y', 'z', 'q', 'w', 't']
    })
    
       foo bar  baz zoo
    0  one   A    1   x
    1  one   B    2   y
    2  one   C    3   z
    3  two   A    4   q
    4  two   B    5   w
    5  two   C    6   t
    
    pd.pivot(
        data=df,        
        index='foo',    # Column to use to make new frame’s index. If None, uses existing index.
        columns='bar',  # Column to use to make new frame’s columns.
        values='baz'    # Column(s) to use for populating new frame’s values.
    )
    
    bar  A  B  C
    foo         
    one  1  2  3
    two  4  5  6