Deep learning 这是什么类型的神经网络?
我对深度学习(尤其是deeplearning4j)是新手,我正在尝试这些例子。特别是,我想知道下面的CSV示例中使用的是哪种类型的神经网络。这是一个深度学习神经网络,还是仅仅是“常规神经网络”。我知道普通神经网络和深度学习神经网络的区别在于DL算法解决了“消失梯度”问题,而普通神经网络则没有。我有点困惑。我觉得下面是常规的神经网络,但我想确认一下Deep learning 这是什么类型的神经网络?,deep-learning,deeplearning4j,Deep Learning,Deeplearning4j,我对深度学习(尤其是deeplearning4j)是新手,我正在尝试这些例子。特别是,我想知道下面的CSV示例中使用的是哪种类型的神经网络。这是一个深度学习神经网络,还是仅仅是“常规神经网络”。我知道普通神经网络和深度学习神经网络的区别在于DL算法解决了“消失梯度”问题,而普通神经网络则没有。我有点困惑。我觉得下面是常规的神经网络,但我想确认一下 MultiLayerConfiguration conf = new NeuralNetConfiguration.Builder()
MultiLayerConfiguration conf = new NeuralNetConfiguration.Builder()
.seed(seed)
.iterations(iterations)
.activation(Activation.TANH)
.weightInit(WeightInit.XAVIER)
.learningRate(0.1)
.regularization(true).l2(1e-4)
.list()
.layer(0, new DenseLayer.Builder().nIn(numInputs).nOut(3)
.build())
.layer(1, new DenseLayer.Builder().nIn(3).nOut(3)
.build())
.layer(2, new OutputLayer.Builder(LossFunctions.LossFunction.NEGATIVELOGLIKELIHOOD)
.activation(Activation.SOFTMAX)
.nIn(3).nOut(outputNum).build())
.backprop(true).pretrain(false)
.build();
//run the model
MultiLayerNetwork model = new MultiLayerNetwork(conf);
model.init();
model.setListeners(new ScoreIterationListener(100));
模型拟合(训练数据)
代码-这确实是一个具有一个隐藏层的规则前馈神经网络。 (如果我正确读取代码) 最主要的问题是隐藏层的数量。 0-1隐藏层永远不会被认为是深的。2通常不是。 3+通常是 无论是否使用特殊的深度学习方法(如ConvNet、DBN预训练或ReLU),都不会改变网络是否深入,但可能有助于获得更好的结果
另一方面,有时与获得良好表达相关的其他事情也会与深入学习联系在一起,例如为什么从word2vec中跳过gram。尽管它们非常浅。这确实是一个有一个隐藏层的规则前馈神经网络。 (如果我正确读取代码) 最主要的问题是隐藏层的数量。 0-1隐藏层永远不会被认为是深的。2通常不是。 3+通常是 无论是否使用特殊的深度学习方法(如ConvNet、DBN预训练或ReLU),都不会改变网络是否深入,但可能有助于获得更好的结果 另一方面,有时与获得良好表达相关的其他事情也会与深入学习联系在一起,例如为什么从word2vec中跳过gram。尽管他们非常肤浅