Python 基于自定义函数的滚动数据-熊猫

Python 基于自定义函数的滚动数据-熊猫,python,pandas,Python,Pandas,我正在尝试创建一个数据框架,其中包含基于较大数据集(称为应用程序和分配)的12个月滚动切片的每日值条目。目前,我还没有使用df.rolling,因为我认为它在这种情况下不合适。我只是在一个日期索引中循环,在每个日期的12个月大数据集上执行几个函数。然后将返回的值附加到每个变量的列表中,然后我使用这些列表创建一个数据帧。这太慢了 我正在寻找一种方法来加速我的滚动数据帧的创建 此函数用于计算滚动窗口中的值: def calculate_rolling(apps, assgs, date_index)

我正在尝试创建一个数据框架,其中包含基于较大数据集(称为应用程序和分配)的12个月滚动切片的每日值条目。目前,我还没有使用df.rolling,因为我认为它在这种情况下不合适。我只是在一个日期索引中循环,在每个日期的12个月大数据集上执行几个函数。然后将返回的值附加到每个变量的列表中,然后我使用这些列表创建一个数据帧。这太慢了

我正在寻找一种方法来加速我的滚动数据帧的创建

此函数用于计算滚动窗口中的值:

def calculate_rolling(apps, assgs, date_index):

    # dictionary containing lists of data - used later to create df
    values = {'owners':[],
              'successful_owners' :[],
              'applications' :[],
              'assignments':[],
              'filled_assignments':[],
              'sitters':[],
              'successful_sitters':[]
        }

    for day in date_index:
        twelve_months_prior = day - relativedelta(months=12)

        app_view = apps.loc[str(twelve_months_prior):str(day.date())] # slice of applications df
        assg_view = assgs.loc[str(twelve_months_prior):str(day.date())] # slice of assignments df

        values['owners'].append(assg_view.ouser_id.nunique())
        values['sitters'].append(assg_view.ouser_id.nunique())
        values['applications'].append(app_view.request_id.count())
        values['assignments'].append(assg_view.is_assignment_filled.sum())
        values['filled_assignments'].append(assg_view.is_assignment_filled.sum())
        values['successful_sitters'].append(assg_view[assg_view.is_assignment_filled ==1].suser_id.nunique())
        values['successful_owners'].append(assg_view[assg_view.is_assignment_filled ==1].ouser_id.nunique())

    return pd.DataFrame(data=values, index=date_index)
…在创建日期范围索引后,我这样称呼它:

# create index of dates
index = pd.date_range(start=start, end=applications.created_date.max())

# create df from values dictionary
rolling_data = calculate_rolling(applications, assignments, index)
%时间现在我有23秒的时间来处理calculate_rolling_data()。在我的Bokeh仪表板中使用时,这会给我带来问题

样本数据 示例数据-应用程序:

    request_id  req_type    assignment_id   date_created    last_modified   oid sid ouser_id    suser_id    oconfirmed  sconfirmed  aid created_date
    0   30682   app 42  2016-04-13  2016-04-13  828 2329    1360    4822    0   1   42.0    2016-04-13
    1   5718    app 52  2016-03-17  2016-03-17  220 18435   339 27455   1   1   NaN NaT
    2   5719    app 75  2016-03-17  2016-03-17  639 13645   1027    20691   1   1   75.0    2015-07-21
    3   5720    app 245 2016-03-17  2016-03-17  2324    39096   5529    52883   1   1   NaN NaT
    4   5721    app 262 2016-03-17  2016-03-17  1343    39089   2918    52876   1   1   262.0   2015-08-16
样本数据-分配:

    aid created_date    start_date  end_date    oid sid ouser_id    suser_id    is_assignment_filled
created_date                                    
2010-12-18  1   2010-12-18  2010-12-18  2011-03-05  104 NaN 87  NaN False
2010-12-11  2   2010-12-11  2010-12-11  2011-01-02  108 NaN 93  NaN False
2011-08-12  3   2011-08-12  2011-08-12  2011-08-28  1220    NaN 1972    NaN False
2011-01-09  4   2011-01-09  2011-01-09  2011-05-11  323 NaN 482 NaN False
2010-12-28  7   2010-12-28  2010-12-28  2011-01-31  142 NaN 169 NaN False

我不知道为什么您不想使用
rolling().apply()
在这里,这听起来像是一个标准用例。很高兴你展示了你的工作,但如果你能展示样本数据和期望的结果(以及函数的简化版本,只需演示概念所需的数量)Fair point@JohnE-数据(应用程序和作业)不是时间序列,那么这将真的很有帮助,所以我假设rolling()不会产生我所期待的结果,尤其是当我还试图获得一个移动的12个月窗口的每日滚动总数时