Python 左外部联接导致表大于左表

Python 左外部联接导致表大于左表,python,pandas,Python,Pandas,根据我对左外部联接的理解,结果表的行数不应超过左表…如果这是错误的,请告诉我 我的左表是192572行8列 我右边的表格是42160行和5列 我的左表有一个名为“id”的字段,它与我的右表中名为“key”的列相匹配 因此,我将它们合并为: combined = pd.merge(a,b,how='left',left_on='id',right_on='key') 但是合并后的形状是236569 我误解了什么 如果键与另一个数据帧中的多行匹配,则可以预期这会增加: In [11]: df =

根据我对左外部联接的理解,结果表的行数不应超过左表…如果这是错误的,请告诉我

我的左表是192572行8列

我右边的表格是42160行和5列

我的左表有一个名为“id”的字段,它与我的右表中名为“key”的列相匹配

因此,我将它们合并为:

combined = pd.merge(a,b,how='left',left_on='id',right_on='key')
但是合并后的形状是236569


我误解了什么

如果键与另一个数据帧中的多行匹配,则可以预期这会增加:

In [11]: df = pd.DataFrame([[1, 3], [2, 4]], columns=['A', 'B'])

In [12]: df2 = pd.DataFrame([[1, 5], [1, 6]], columns=['A', 'C'])

In [13]: df.merge(df2, how='left')  # merges on columns A
Out[13]: 
   A  B   C
0  1  3   5
1  1  3   6
2  2  4 NaN
要在df2中避免这种行为,请执行以下操作:


还有一些策略可以用来避免这种行为,例如,如果不是所有列都重复,那么这些策略不涉及丢失重复的数据。如果你有

In [1]: df = pd.DataFrame([[1, 3], [2, 4]], columns=['A', 'B'])

In [2]: df2 = pd.DataFrame([[1, 5], [1, 6]], columns=['A', 'C'])
一种方法是取副本的平均值(也可以取总和等)

或者,如果您有无法使用pd.to_numeric()转换的非数值数据,或者您只是不想取平均值,则可以通过枚举重复项来更改合并变量。但是,当两个数据集中都存在重复项时(这将导致相同的问题行为,也是一个常见问题),将应用此策略:

对df2执行相同操作,删除df和df2中的计数变量,并在“A”上合并:

In [16]: merged
Out[16]: 
    A  B  C
0   a  3  3        
1   b  4  8        
2  b1  0  5        
几张便条。在最后一种情况下,我使用.cumcount()而不是.duplicated,因为在这种情况下,对于给定的观察,可能有多个副本。此外,我还使用.astype(str)将计数值转换为字符串,因为我使用了np.where()命令,但使用pd.concat()或其他方法可能会允许不同的应用程序


最后,如果只有一个数据集具有重复项,但您仍然希望保留它们,那么您可以使用后一种策略的前半部分在结果合并中区分重复项

对给定答案的一点补充是,有一个名为validate的参数,如果右表中有匹配的重复ID,该参数可用于抛出错误:

combined = pd.merge(a,b,how='left',left_on='id',right_on='key', validate = 'm:1')
使用drop\u副本 在您的情况下,将:

merged = pd.merge(df,df3,on=['A'], how='outer').drop_duplicates()

你能发布一些最小的数据来证明这一点吗(请不要全部是200k)?@PaulH问题是我找不到它这样做的原因…当我在代码的一小部分上使用这个
pd.merge
时,结果表确实只有左表的大小有办法抑制它吗?在你的例子中,我不需要看到第0行或第1行,只需要看到其中一行…@Chowza yup,删除重复项,编辑答案以反映这一点。仅供参考,cols现在已不推荐使用。相反,使用“subset”:df.merge(df2.drop_duplicates(subset=['A']),how='left')@SummerEla谢谢!我真的应该仔细检查我的所有问题并修复不赞成的意见(应该能够编写脚本)…刚刚意识到,如果您这样做是为了内部连接而不是左连接,那么您需要根据答案删除两个数据帧中的重复项。
In [16]: merged
Out[16]: 
    A  B  C
0   a  3  3        
1   b  4  8        
2  b1  0  5        
combined = pd.merge(a,b,how='left',left_on='id',right_on='key', validate = 'm:1')
merged = pd.merge(df,df3,on=['A'], how='outer').drop_duplicates()