Python:为每个组填充缺少的日期
我有一个数据框,看起来像这样:Python:为每个组填充缺少的日期,python,pandas,datetime,multi-index,Python,Pandas,Datetime,Multi Index,我有一个数据框,看起来像这样: x = pd.DataFrame({'user': ['a', 'a', 'a', 'a', 'a', 'b', 'b', 'b', 'b','b'], 'rd': ['2016-01-01', '2016-01-01' , '2016-02-01', '2016-02-01', '2016-02-01', '2016-05-01', '2016-05-01',
x = pd.DataFrame({'user': ['a', 'a', 'a', 'a', 'a', 'b', 'b', 'b', 'b','b'], 'rd': ['2016-01-01', '2016-01-01' ,
'2016-02-01', '2016-02-01', '2016-02-01', '2016-05-01', '2016-05-01',
'2016-06-01','2016-06-01', '2016-06-01'],
'fd' : ['2016-02-01', '2016-04-01', '2016-03-01', '2016-04-01', '2016-05-01',
'2016-06-01', '2016-07-01', '2016-08-01', '2016-07-01', '2016-09-01'],
'val': [3, 4, 16, 7, 9, 2, 5, 11, 20, 1]})
x.head(6)
fd rd user val
0 2016-02-01 2016-01-01 a 3
1 2016-04-01 2016-01-01 a 4
2 2016-03-01 2016-02-01 a 16
3 2016-04-01 2016-02-01 a 7
4 2016-05-01 2016-02-01 a 9
5 2016-06-01 2016-05-01 b 2
x['rd'] = pd.to_datetime(x['rd'])
x['fd'] = pd.to_datetime(x['fd'])
对于每个rd日期,我希望有接下来3个月的日期。例如:
rd = 2016-01-01
我希望:
fd = [2016-02-01, 2016-03-01, 2016-04-01]
基本上:对于每个rd日期,我希望接下来的3个月作为fd日期。
在我的数据集中,我在rd(2016-03-01,2016-04-01)
和fd中都缺少日期,一旦我有了rd日期(rd=2016-01-01,fd缺少=2016-03-01)
此外,我有两个不同的用户x['user'].unique()=['a','b']
。
因此,我可能在一个用户、另一个用户或两个用户中都缺少日期(“rd”和“fd”)
我想实现的是一种高效的方法,为所有用户获取包含所有日期的数据框。
这个问题是从一个已经回答过的问题开始的,但是这里的问题有点复杂,因为我无法将多索引应用于手头的问题
到目前为止,我所做的是创建两列日期:
index = pd.date_range(x['rd'].min(),
x['rd'].max(), freq='MS')
from datetime import datetime
from dateutil.relativedelta import relativedelta
def add_months(date):
fcs_dates = [date + relativedelta(months = 1), date + relativedelta(months = 2), date + relativedelta(months = 3)]
return fcs_dates
fcs_dates = list(map(lambda x: add_months(x), index.tolist()))
fcs_dates = [j for i in fcs_dates for j in i]
index3 = index.tolist()*3
index3.sort()
因此,输出为:
list(zip(index3, fcs_dates))[:5]
[(Timestamp('2016-01-01 00:00:00', freq='MS'),
Timestamp('2016-02-01 00:00:00', freq='MS')),
(Timestamp('2016-01-01 00:00:00', freq='MS'),
Timestamp('2016-03-01 00:00:00', freq='MS')),
(Timestamp('2016-01-01 00:00:00', freq='MS'),
Timestamp('2016-04-01 00:00:00', freq='MS')),
(Timestamp('2016-02-01 00:00:00', freq='MS'),
Timestamp('2016-03-01 00:00:00', freq='MS')),
(Timestamp('2016-02-01 00:00:00', freq='MS'),
Timestamp('2016-04-01 00:00:00', freq='MS'))]
不幸的是,我不知道如何将其插入到多索引函数中
感谢您的帮助我在理解您的问题时遇到了很多困难,我无法让index3在python 3中工作 你是在找类似的东西吗
indx = pd.MultiIndex.from_product([['a', 'b'], [index], [pd.DatetimeIndex(fcs_dates)]])
如果您能够在多重索引中构造所需的级别,from_product将使用其笛卡尔积来创建索引。因此,我通过对每个组(用户)进行左连接来解决我自己的问题,其中左数据框是用日期构造的 带有日期的pd.DataFrame:
left_df = pd.DataFrame({'rd' : index_3, 'fd' : fcs_dates})
left_df['rd'] = left_df['rd'].astype(str)
left_df['fd'] = left_df['fd'].astype(str)
按用户数据帧分组:
df_gr = x.groupby(['user'])
list_gr = []
for i, gr in df_gr:
gr_new = pd.merge(left_df, gr, left_on= ['rd', 'fd'],
right_on = ['rd', 'fd'],
how = 'left')
list_gr.append(gr_new)
df_final = pd.concat(list_gr)
最终数据帧:
fd rd user val
0 2016-02-01 2016-01-01 a 3.0
1 2016-03-01 2016-01-01 NaN NaN
2 2016-04-01 2016-01-01 a 4.0
3 2016-03-01 2016-02-01 a 16.0
4 2016-04-01 2016-02-01 a 7.0
5 2016-05-01 2016-02-01 a 9.0
6 2016-04-01 2016-03-01 NaN NaN
7 2016-05-01 2016-03-01 NaN NaN
8 2016-06-01 2016-03-01 NaN NaN
9 2016-05-01 2016-04-01 NaN NaN
10 2016-06-01 2016-04-01 NaN NaN
11 2016-07-01 2016-04-01 NaN NaN
12 2016-06-01 2016-05-01 NaN NaN
13 2016-07-01 2016-05-01 NaN NaN
14 2016-08-01 2016-05-01 NaN NaN
15 2016-07-01 2016-06-01 NaN NaN
16 2016-08-01 2016-06-01 NaN NaN
17 2016-09-01 2016-06-01 NaN NaN
0 2016-02-01 2016-01-01 NaN NaN
1 2016-03-01 2016-01-01 NaN NaN
2 2016-04-01 2016-01-01 NaN NaN
3 2016-03-01 2016-02-01 NaN NaN
4 2016-04-01 2016-02-01 NaN NaN
5 2016-05-01 2016-02-01 NaN NaN
6 2016-04-01 2016-03-01 NaN NaN
7 2016-05-01 2016-03-01 NaN NaN
8 2016-06-01 2016-03-01 NaN NaN
9 2016-05-01 2016-04-01 NaN NaN
10 2016-06-01 2016-04-01 NaN NaN
11 2016-07-01 2016-04-01 NaN NaN
12 2016-06-01 2016-05-01 b 2.0
13 2016-07-01 2016-05-01 b 5.0
14 2016-08-01 2016-05-01 NaN NaN
15 2016-07-01 2016-06-01 b 20.0
16 2016-08-01 2016-06-01 b 11.0
17 2016-09-01 2016-06-01 b 1.0
不幸的是,我不认为这是最快的方法,但我得到了我想要的。谢谢,我用日期转换为日期时间编辑了这个问题。。它应该会起作用。不幸的是,这并不是我想要的:在索引和fcs_日期之间进行多产品生产也会给我这样的行:
rd=2017-01-01
fd=2017-07-01
,我不想。。。