Neural network 神经网络中的样本量

Neural network 神经网络中的样本量,neural-network,Neural Network,我已经看到,神经网络中样本大小的一般规则是“权重数”的10倍。例如,如果我们有一个NxD输入,一个层大小为M,输出层大小为K,那么“权重数”是因为两个W矩阵的缘故吗?还是DM+MK?提前感谢您的帮助 权重的实际数量应为DM+MK+M+K,其中DM表示隐藏层中所有单元的权重数量,M表示隐藏层中的偏差项,MK和K分别表示输出层中的wights和bias项的数量。遗憾的是,没有通用规则,它也总是取决于数据。使用交叉验证来评估您的网络,其他一切都是猜测(是的,当然有些人获得了很多经验,他们在这个猜测游戏

我已经看到,神经网络中样本大小的一般规则是“权重数”的10倍。例如,如果我们有一个NxD输入,一个层大小为M,输出层大小为K,那么“权重数”是因为两个W矩阵的缘故吗?还是DM+MK?提前感谢您的帮助

权重的实际数量应为
DM+MK+M+K
,其中
DM
表示隐藏层中所有单元的权重数量,
M
表示隐藏层中的偏差项,
MK
K
分别表示输出层中的wights和bias项的数量。

遗憾的是,没有通用规则,它也总是取决于数据。使用交叉验证来评估您的网络,其他一切都是猜测(是的,当然有些人获得了很多经验,他们在这个猜测游戏中表现得更好)。