Machine learning 堆叠分类器上的分类器数量是否必须等于我的训练/测试数据集的列数?
我正在尝试解决一个二进制分类任务。训练数据集包含9个特征,在我的特征工程之后,我结束了14个特征。我想使用堆栈分类器方法 mlxtend.classifier.StackingClassifier使用4个不同的分类器,但在尝试预测测试数据集时,我得到了错误:Machine learning 堆叠分类器上的分类器数量是否必须等于我的训练/测试数据集的列数?,machine-learning,scikit-learn,ensemble-learning,mlxtend,Machine Learning,Scikit Learn,Ensemble Learning,Mlxtend,我正在尝试解决一个二进制分类任务。训练数据集包含9个特征,在我的特征工程之后,我结束了14个特征。我想使用堆栈分类器方法 mlxtend.classifier.StackingClassifier使用4个不同的分类器,但在尝试预测测试数据集时,我得到了错误:值错误:查询数据维度必须与训练数据维度匹配 %%time models=[KNeighborsClassifier(weights='distance'), GaussianNB(),SGDClassifier(loss='h
值错误:查询数据维度必须与训练数据维度匹配
%%time
models=[KNeighborsClassifier(weights='distance'),
GaussianNB(),SGDClassifier(loss='hinge'),XGBClassifier()]
calibrated_models=Calibrated_classifier(models,return_names=False)
meta=LogisticRegression()
stacker=StackingCVClassifier(classifiers=calibrated_models,meta_classifier=meta,use_probas=True).fit(X.values,y.values)
备注:在我的代码中,我刚刚编程了一个函数,返回一个带有校准分类器的列表StackingCVClassifier
我已检查过这不是导致错误的原因
备注2:我已经尝试从头开始执行堆垛机,结果相同,因此我认为我自己的堆垛机有问题
from sklearn.linear_model import LogisticRegression
def StackingClassifier(X,y,models,stacker=LogisticRegression(),return_data=True):
names,ls=[],[]
predictions=pd.DataFrame()
for model in models:
names.append(str(model)[:str(model).find('(')])
for i,model in enumerate(models):
model.fit(X,y)
ls=model.predict_proba(X)[:,1]
predictions[names[i]]=ls
if return_data:
return predictions
else:
return stacker.fit(predictions,y)
您能帮我了解堆叠分类器的正确用法吗?
编辑:
这是我校准分类器的代码。此函数获取n个分类器的列表,并对每个分类器应用sklearn function calibrated classifiedrcv
,然后返回一个包含n个已校准分类器的列表。您可以选择以zip列表的形式返回,因为此函数主要用于sklearn的VotingClassifier
def Calibrated_classifier(models,method='sigmoid',return_names=True):
calibrated,names=[],[]
for model in models:
names.append(str(model)[:str(model).find('(')])
for model in models:
clf=CalibratedClassifierCV(base_estimator=model,method=method)
calibrated.append(clf)
if return_names:
return zip(names,calibrated)
else:
return calibrated
我已经用Iris数据集尝试了你的代码。它工作正常,我认为问题在于测试数据的尺寸,而不是校准
from sklearn.linear_model import LogisticRegression
from mlxtend.classifier import StackingCVClassifier
from sklearn import datasets
X, y = datasets.load_iris(return_X_y=True)
models=[KNeighborsClassifier(weights='distance'),
SGDClassifier(loss='hinge')]
calibrated_models=Calibrated_classifier(models,return_names=False)
meta=LogisticRegression( multi_class='ovr')
stacker = StackingCVClassifier(classifiers=calibrated_models,
meta_classifier=meta,use_probas=True,cv=3).fit(X,y)
预测
我已经用Iris数据集尝试了你的代码。它工作正常,我认为问题在于测试数据的尺寸,而不是校准
from sklearn.linear_model import LogisticRegression
from mlxtend.classifier import StackingCVClassifier
from sklearn import datasets
X, y = datasets.load_iris(return_X_y=True)
models=[KNeighborsClassifier(weights='distance'),
SGDClassifier(loss='hinge')]
calibrated_models=Calibrated_classifier(models,return_names=False)
meta=LogisticRegression( multi_class='ovr')
stacker = StackingCVClassifier(classifiers=calibrated_models,
meta_classifier=meta,use_probas=True,cv=3).fit(X,y)
预测
您能为
校准的\u分类器添加代码吗
或它所在的包imported@AI_Learning我已经添加了我的函数校准\ U分类器,并对其进行了简要说明。您可以为校准\ U分类器添加代码吗imported@AI_Learning我用一个简要解释如果您正确地提到这是我的数据集版本的问题。一旦解决了这个问题,算法就正确运行了。正如你正确提到的,这是我的数据集维度的问题。一旦解决了这个问题,算法就正确运行了。