Neural network 神经网络：辍学的频率是多少；“过滤器”；更新？_Neural Network

Neural network 神经网络：辍学的频率是多少；“过滤器”；更新？

neural-network

Neural network 神经网络：辍学的频率是多少；“过滤器”；更新？,neural-network,Neural Network,我只是有一个关于辍学层的非常普遍的问题。辍学者的“筛选”多久更新一次对于每个培训示例？还是每个小批量？还是每个时代对于每个培训示例，非常感谢大家资料来源1：摘自：资料来源2:-第7章：每次我们将一个示例加载到minibatch中，我们随机采样不同的二进制掩码，以应用于网络中的所有输入和隐藏单元。每个单元的遮罩独立于所有其他单元进行采样我希望每个小批量的更换也可以。然而，我并不认为每个时代都改变是一个好主意（特别是对于大型训练集）

我只是有一个关于辍学层的非常普遍的问题。辍学者的“筛选”多久更新一次

对于每个培训示例？还是每个小批量？还是每个时代

对于每个培训示例，非常感谢大家

资料来源1：摘自：

资料来源2:-第7章：

每次我们将一个示例加载到minibatch中，我们随机采样不同的二进制掩码，以应用于网络中的所有输入和隐藏单元。每个单元的遮罩独立于所有其他单元进行采样

我希望每个小批量的更换也可以。然而，我并不认为每个时代都改变是一个好主意（特别是对于大型训练集）