Python 然后得到组平均值
我的目标是做一个聚合,得到组平均值: -属于特定组的列值之和 -将其除以该组中的观察数 -最好是在熊猫馆,而不是去动物园 我的原始数据集每个组有多行:Python 然后得到组平均值,python,r,pandas,aggregate,average,Python,R,Pandas,Aggregate,Average,我的目标是做一个聚合,得到组平均值: -属于特定组的列值之和 -将其除以该组中的观察数 -最好是在熊猫馆,而不是去动物园 我的原始数据集每个组有多行: user_id performance group expert_level 0 164 30 0 L-1 1 164 3 1 L-1 2 164 23 2 L-1 3 164
user_id performance group expert_level
0 164 30 0 L-1
1 164 3 1 L-1
2 164 23 2 L-1
3 164 1 3 L-1
4 164 1 4 L-1
5 2178 136 0 L-3
6 2178 16 1 L-3
7 2178 5 2 L-3
8 2178 25 3 L-3
9 2178 4 4 L-3
我希望在执行以下操作后为用户获取一行
filelocation = ~/'somefile.csv'
df = pd.read_csv(filelocation)
pivoted = df.pivot('user_id', 'group', 'performance')
lookup = df.drop_duplicates('user_id')[['user_id', 'expert_level']]
lookup.set_index(['user_id'], inplace=True)
result = pivoted.join(lookup)
result = result.fillna(0)
result.loc[:,0:15] = result.loc[:,0:15].div(result.sum(axis=1), axis=0)
print result.head()
上面的操作让我了解到以下内容:(共有15列,但显示的列很少,但包括了group列)
现在我要做的是按组级别对所有列求和,以得到以下结果:
group X0 X1 X2 X3 X4 X5 X6 X7 X8
L-4 70294161 41480184 85284328 32006784 24122706 7559884 9984039 1226385 13104
L-3 139093997 65157598 158343549 55562729 40113567 12062095 15126124 1642933 18661
L-6 286610049 214763097 383541227 175932665 152843219 49444750 54246772 5863108 78769
L-5 43320302 29719739 58270825 24719553 19347706 5876604 7483654 789694 8734
L-2 69965163 23882048 80798434 26442583 16951986 4495711 5789449 550780 7190
L-1 22486756 5373632 26068005 7755806 4204398 950759 1626565 123037 2156
完成后,我将文件放入R以获得上表:
dt.agg <- dt[,lapply(.SD, mean),by=group]
dt.agg试试:
实际上,您自己的代码也可以工作:
> ddt[,lapply(.SD, mean),by=group]
group user_id X0 X1 X2 X3 X4 X5 X6
1: L-5 26 0.808791 0.098393 0.044130 0.013997 0.0282635 0.0023985 0.0003975
2: L-2 4 0.836877 0.018336 0.049429 0.025246 0.0527060 0.0024360 0.0040750
3: L-4 16 0.910467 0.046083 0.017775 0.011192 0.0111920 0.0006580 0.0000000
4: L-1 51 0.401827 0.120086 0.041260 0.085395 0.2864620 0.0324340 0.0012320
在最后一步中,当您按组
对它们进行求和时,求和与用户id
无关,对吗?是的,它不关心用户id,正如您可以看到的,我已经删除了用户id。我刚刚意识到了这个问题,当我读取csv文件时,所有这些列都在R中读取为因子。我可以使用as.numeric将除分组列以外的所有列更改为numericTry:cbind(sappy(ddt[,1:8,with=F],as.numeric),ddt[,9,with=F])我总共有17列,所以我做了以下操作:cbind(sappy(ddt[,1:17,with=F],as.numeric),ddt[,18,with=F])
但在[.data.table中给了我错误(ddt,18,with=F):j越界
如果您有17列,并且组是您的最后一列,您应该在第一部分使用1:16而不是1:17,在第二部分使用ddt[,17,with=F]。使用dd[,18,with=F]显然会给您带来错误。
dt.agg <- dt[, lapply(.SD, function(x){sum(x)/.N}), by = group]
> ddt
user_id X0 X1 X2 X3 X4 X5 X6 group
1: 2 0.863296 0.059643 0.023498 0.018470 0.022241 0.004797 0.000795 L-5
2: 4 0.836877 0.018336 0.049429 0.025246 0.052706 0.002436 0.004075 L-2
3: 16 0.910467 0.046083 0.017775 0.011192 0.011192 0.000658 0.000000 L-4
4: 50 0.754286 0.137143 0.064762 0.009524 0.034286 0.000000 0.000000 L-5
5: 51 0.401827 0.120086 0.041260 0.085395 0.286462 0.032434 0.001232 L-1
> ddt[,lapply(ddt[,2:8,with=F], mean),by=group]
group X0 X1 X2 X3 X4 X5 X6
1: L-5 0.7533506 0.0762582 0.0393448 0.0299654 0.0813774 0.008065 0.0012204
2: L-2 0.7533506 0.0762582 0.0393448 0.0299654 0.0813774 0.008065 0.0012204
3: L-4 0.7533506 0.0762582 0.0393448 0.0299654 0.0813774 0.008065 0.0012204
4: L-1 0.7533506 0.0762582 0.0393448 0.0299654 0.0813774 0.008065 0.0012204
> ddt[,lapply(.SD, mean),by=group]
group user_id X0 X1 X2 X3 X4 X5 X6
1: L-5 26 0.808791 0.098393 0.044130 0.013997 0.0282635 0.0023985 0.0003975
2: L-2 4 0.836877 0.018336 0.049429 0.025246 0.0527060 0.0024360 0.0040750
3: L-4 16 0.910467 0.046083 0.017775 0.011192 0.0111920 0.0006580 0.0000000
4: L-1 51 0.401827 0.120086 0.041260 0.085395 0.2864620 0.0324340 0.0012320