Neural network 多输出分类神经网络如何工作?

Neural network 多输出分类神经网络如何工作?,neural-network,classification,image-recognition,multiclass-classification,Neural Network,Classification,Image Recognition,Multiclass Classification,我目前了解并制作了一个简单的神经网络来解决XOR问题。我想做一个用于数字识别的神经网络。我知道使用MNIST数据,我需要784个输入神经元,15个隐藏神经元和10个输出神经元(0-9) 然而,我不明白网络是如何训练的,前馈是如何与多个输出神经元协同工作的 例如,如果输入是数字3的像素,网络将如何确定拾取哪个输出神经元,以及在训练时,网络如何知道哪个神经元应与目标值关联 任何帮助都将不胜感激 所以您有一个多输出的分类问题。我假设您正在为输出层使用softmax激活函数 网络如何确定选取哪个输出神经

我目前了解并制作了一个简单的神经网络来解决XOR问题。我想做一个用于数字识别的神经网络。我知道使用MNIST数据,我需要784个输入神经元,15个隐藏神经元和10个输出神经元(0-9)

然而,我不明白网络是如何训练的,前馈是如何与多个输出神经元协同工作的

例如,如果输入是数字3的像素,网络将如何确定拾取哪个输出神经元,以及在训练时,网络如何知道哪个神经元应与目标值关联


任何帮助都将不胜感激

所以您有一个多输出的分类问题。我假设您正在为输出层使用softmax激活函数

网络如何确定选取哪个输出神经元:简单,目标类概率最大的输出神经元

网络将使用标准反向传播进行训练,与仅使用一个输出的算法相同

只有一个区别:激活功能。 对于二进制分类,您只需要一个输出(例如,数字0和1,如果概率<0.5,则类为0,否则为1)


对于多类分类,每个类都需要一个输出节点;然后网络将选择最有可能成为目标类的节点。

Awesome!如果我在输出层使用sigmoid函数,它还会工作吗?如果是,它会如何工作?如果不是,为什么它不起作用?它会起作用的。基本上,如果使用softmax函数,输出层上的概率总和将始终为1。如果你使用一个sigmoid函数,这种情况并不总是发生。这是在多类分类中,softmax优于sigmoid的主要原因之一。啊,对了,谢谢你的帮助,它非常有用。而且我假设输入只对应一个类。如果您的输出是独立的(即输入可以同时对应多个类),那么最好使用sigmoid。在您的情况下,输入只能是一个类。