Matrix LDA-计算协方差和合并协方差矩阵的不同公式

Matrix LDA-计算协方差和合并协方差矩阵的不同公式,matrix,machine-learning,covariance,lda,Matrix,Machine Learning,Covariance,Lda,阅读来自不同站点的材料,一些关于协方差和合并协方差矩阵计算以实现LDA的问题出现了: 定义 Ci-组i(C1和C2)的协方差矩阵 C-合并协方差矩阵 u-全球平均值(数据集) ui-第一组(u1和u2)的平均值 N-样本数 Ni-第一组样品的数量(N1和N2) 席征特征I(X1和X2) 1–一些网站使用此公式 C1 = ((x1 – u)T(x1 – u) ) / N1 C2 = ((x2 – u)T(x2 – u) ) / N2 C = (N1/N)C1 + (N2/N)C2

阅读来自不同站点的材料,一些关于协方差和合并协方差矩阵计算以实现LDA的问题出现了:
定义
Ci-组i(C1和C2)的协方差矩阵
C-合并协方差矩阵
u-全球平均值(数据集)
ui-第一组(u1和u2)的平均值
N-样本数
Ni-第一组样品的数量(N1和N2)
席征特征I(X1和X2)

1–一些网站使用此公式

C1 = ((x1 – u)T(x1 – u) ) / N1    
C2 = ((x2 – u)T(x2 – u) ) / N2    
C =  (N1/N)C1 + (N2/N)C2      
C1 = ((x1 – u1)T(x1 – u1) ) / N         (can be N or N – K, where K is the number of groups)    
C2 = ((x2 – u2)T(x2 – u2) ) / N         (can be N or N – K)    
C =  (1/N)(C1 + C2 )                    (N or N – K) 
2–其他人使用此公式

C1 = ((x1 – u)T(x1 – u) ) / N1    
C2 = ((x2 – u)T(x2 – u) ) / N2    
C =  (N1/N)C1 + (N2/N)C2      
C1 = ((x1 – u1)T(x1 – u1) ) / N         (can be N or N – K, where K is the number of groups)    
C2 = ((x2 – u2)T(x2 – u2) ) / N         (can be N or N – K)    
C =  (1/N)(C1 + C2 )                    (N or N – K) 
为什么会有差异
在Ci演算中,使用全局平均值还是组平均值?
在C微积分中,使用(1/N)还是(Ni/N)

观察:
在my 4数据集中,
LDA和具有二次核的LDA
如果我使用
((xi-ui)T(xi-ui))/N或((xi-u)T(xi-u))/Ni
,结果是相同的

但在QDA中
如果我使用
((xi-u)T(xi-u))/Ni
结果(分类)较差

而不是
((xi-ui)T(xi-ui))/N

这个问题似乎离题了,因为它是关于统计的(试试看)。