Machine learning AWD LSTM中的DropConnect

Machine learning AWD LSTM中的DropConnect,machine-learning,deep-learning,nlp,dropout,Machine Learning,Deep Learning,Nlp,Dropout,我阅读了关于DropConnect的这部分内容,但不理解: 由于此退出操作只执行一次,因此在向前和向后传球之前,对训练速度的影响最小,可以使用任何标准的优化黑盒RNN实现 我们应该什么时候申请DropConnect? DropConnect是在序列的第一步应用还是在每一步应用?我投票结束这个问题,因为它与ML理论中定义的编程无关。

我阅读了关于DropConnect的这部分内容,但不理解:

由于此退出操作只执行一次,因此在向前和向后传球之前,对训练速度的影响最小,可以使用任何标准的优化黑盒RNN实现

我们应该什么时候申请DropConnect?
DropConnect是在序列的第一步应用还是在每一步应用?

我投票结束这个问题,因为它与ML理论中定义的编程无关。