Deep learning 这是什么类型的神经网络?

Deep learning 这是什么类型的神经网络?,deep-learning,deeplearning4j,Deep Learning,Deeplearning4j,我对深度学习(尤其是deeplearning4j)是新手,我正在尝试这些例子。特别是,我想知道下面的CSV示例中使用的是哪种类型的神经网络。这是一个深度学习神经网络,还是仅仅是“常规神经网络”。我知道普通神经网络和深度学习神经网络的区别在于DL算法解决了“消失梯度”问题,而普通神经网络则没有。我有点困惑。我觉得下面是常规的神经网络,但我想确认一下 MultiLayerConfiguration conf = new NeuralNetConfiguration.Builder()

我对深度学习(尤其是deeplearning4j)是新手,我正在尝试这些例子。特别是,我想知道下面的CSV示例中使用的是哪种类型的神经网络。这是一个深度学习神经网络,还是仅仅是“常规神经网络”。我知道普通神经网络和深度学习神经网络的区别在于DL算法解决了“消失梯度”问题,而普通神经网络则没有。我有点困惑。我觉得下面是常规的神经网络,但我想确认一下

    MultiLayerConfiguration conf = new NeuralNetConfiguration.Builder()
        .seed(seed)
        .iterations(iterations)
        .activation(Activation.TANH)
        .weightInit(WeightInit.XAVIER)
        .learningRate(0.1)
        .regularization(true).l2(1e-4)
        .list()
        .layer(0, new DenseLayer.Builder().nIn(numInputs).nOut(3)
            .build())
        .layer(1, new DenseLayer.Builder().nIn(3).nOut(3)
            .build())
        .layer(2, new OutputLayer.Builder(LossFunctions.LossFunction.NEGATIVELOGLIKELIHOOD)
            .activation(Activation.SOFTMAX)
            .nIn(3).nOut(outputNum).build())
        .backprop(true).pretrain(false)
        .build();

    //run the model
    MultiLayerNetwork model = new MultiLayerNetwork(conf);
    model.init();
    model.setListeners(new ScoreIterationListener(100));
模型拟合(训练数据)


代码-

这确实是一个具有一个隐藏层的规则前馈神经网络。 (如果我正确读取代码)

最主要的问题是隐藏层的数量。 0-1隐藏层永远不会被认为是深的。2通常不是。 3+通常是

无论是否使用特殊的深度学习方法(如ConvNet、DBN预训练或ReLU),都不会改变网络是否深入,但可能有助于获得更好的结果


另一方面,有时与获得良好表达相关的其他事情也会与深入学习联系在一起,例如为什么从word2vec中跳过gram。尽管它们非常浅。

这确实是一个有一个隐藏层的规则前馈神经网络。 (如果我正确读取代码)

最主要的问题是隐藏层的数量。 0-1隐藏层永远不会被认为是深的。2通常不是。 3+通常是

无论是否使用特殊的深度学习方法(如ConvNet、DBN预训练或ReLU),都不会改变网络是否深入,但可能有助于获得更好的结果

另一方面,有时与获得良好表达相关的其他事情也会与深入学习联系在一起,例如为什么从word2vec中跳过gram。尽管他们非常肤浅