Python 2.7 基于对来自另一个数据帧的列的行比较来筛选行的最有效方法?
我在表达这一点时会遇到困难,因此我将只包含一些代码,并描述我以后需要做什么:Python 2.7 基于对来自另一个数据帧的列的行比较来筛选行的最有效方法?,python-2.7,pandas,numpy,Python 2.7,Pandas,Numpy,我在表达这一点时会遇到困难,因此我将只包含一些代码,并描述我以后需要做什么: import pandas as pd start = [1, 5, 102, 300] end = [3, 90, 150, 304] df1 = pd.DataFrame({'start':start, 'end':end}) df2 = pd.DataFrame([0, 3, 10, 14, 100, 101, 102, 113, 300]) df2.columns=["bp_pos"] 因此,对于每个起
import pandas as pd
start = [1, 5, 102, 300]
end = [3, 90, 150, 304]
df1 = pd.DataFrame({'start':start, 'end':end})
df2 = pd.DataFrame([0, 3, 10, 14, 100, 101, 102, 113, 300])
df2.columns=["bp_pos"]
因此,对于每个起始-结束对,我需要检查df2中的任何值是否在该范围内。如果他们这样做,我需要从df2中排除该索引
我有这个工作。问题是我的I有22个df1,每个df1有几百万行,我的df2也有几百万行。我的解决方案的速度非常慢,看起来像:
for idx, row in df1.iterrows():
df2 = df2.loc[~((row['start'] <= df2['bp_pos']) &
(row['end'] >= df2['bp_pos']))]
对于idx,df1.iterrows()中的行:
df2=df2.loc[~(row['start']=df2['bp\u pos'])]
我希望得到比上面更快的解决方案。你能想到更快的解决方案吗?我使用的是Python2.7.12和Pandas/NumPy解决方案。(很抱歉,如果上面的代码实际上不起作用-我发帖子的电脑上没有Python)我会得到一个你想要排除的值数组,然后使用普通的
pandas
索引:
vals = np.concatenate([np.arange(x,y) for x,y in zip(start,end)])
df2[~df2['bp_pos'].isin(vals)]
bp_pos
0 0
1 3
4 100
5 101
正如进一步的解释:vals
最终是所有范围的数组:
>>> vals
array([ 1, 2, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15,
16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28,
29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41,
42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54,
55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67,
68, 69, 70, 71, 72, 73, 74, 75, 76, 77, 78, 79, 80,
81, 82, 83, 84, 85, 86, 87, 88, 89, 102, 103, 104, 105,
106, 107, 108, 109, 110, 111, 112, 113, 114, 115, 116, 117, 118,
119, 120, 121, 122, 123, 124, 125, 126, 127, 128, 129, 130, 131,
132, 133, 134, 135, 136, 137, 138, 139, 140, 141, 142, 143, 144,
145, 146, 147, 148, 149, 300, 301, 302, 303])
谢谢我不能因为声誉而提高投票率,但我希望能有一个像你刚才展示的拉链一样的解决方案。不客气!如果这是您需要的,您可以通过单击计票下方的复选标记接受我的答案:)