Warning: file_get_contents(/data/phpspider/zhask/data//catemap/8/python-3.x/16.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Python 3.x 当使用幕府神经网络的随机梯度下降法时,所有分类都是相同的_Python 3.x_Machine Learning_Classification_Gradient Descent_Shogun - Fatal编程技术网

Python 3.x 当使用幕府神经网络的随机梯度下降法时,所有分类都是相同的

Python 3.x 当使用幕府神经网络的随机梯度下降法时,所有分类都是相同的,python-3.x,machine-learning,classification,gradient-descent,shogun,Python 3.x,Machine Learning,Classification,Gradient Descent,Shogun,我试图将一些样本分类为1或0,但当使用随机梯度下降作为优化算法时,所有样本都被分类为1或0 使用默认值(L-BFGS)时,它会按预期工作,并将样本分类为1和0。我尝试过调整动量、学习率、批量大小、衰减和误差系数,但每次的误差都是一样的。任何帮助都将不胜感激 num_feats = X_train.get_num_features() layers = DynamicObjectArray() layers.append_element(NeuralInputLayer(num_feats)) l

我试图将一些样本分类为1或0,但当使用随机梯度下降作为优化算法时,所有样本都被分类为1或0

使用默认值(L-BFGS)时,它会按预期工作,并将样本分类为1和0。我尝试过调整动量、学习率、批量大小、衰减和误差系数,但每次的误差都是一样的。任何帮助都将不胜感激

num_feats = X_train.get_num_features()
layers = DynamicObjectArray()
layers.append_element(NeuralInputLayer(num_feats))
layers.append_element(NeuralLogisticLayer(16))
layers.append_element(NeuralLogisticLayer(8))
layers.append_element(NeuralSoftmaxLayer(2))

MLP = NeuralNetwork(layers)
MLP.set_gd_momentum(0.9)
MLP.set_gd_learning_rate(0.001)
MLP.set_gd_mini_batch_size(200)
MLP.set_optimization_method(0)

MLP.set_l2_coefficient(1e-4)
MLP.set_epsilon(1e-8)
MLP.set_max_num_epochs(200)

MLP.quick_connect()
MLP.initialize_neural_network()
MLP.set_labels(y_train)

MLP.train
conf_mat_MLP = acc.get_confusion_matrix(y_pred_MLP, y_test)
print(conf_mat_MLP)
印刷品:

[[2400    0]
[ 314    0]]
用于声明SGD不是L-BFGS的行:

MLP.set_optimization_method(0)
注意:我在Scikit learn和Weka中以同样的方式使用了完全相同的训练/测试集,两者都不会产生这种错误,因此我认为这与我配置算法的方式有关,但我不知道是什么

可能有用的链接-

文件:

资料来源:

您应该(显著)降低您的最小批量-尝试20左右