Neural network 是否有更好的结构来训练完全卷积神经网络?

Neural network 是否有更好的结构来训练完全卷积神经网络?,neural-network,training-data,Neural Network,Training Data,我正在训练一个完全卷积的神经网络,用3080*16个输入图像进行训练,一批给16个图像。我这样做已经有100个时代了 in every epoch: after each batch: calculate errors, do weight update, get confusion matrix after each validation_batch calculate errors and confusion matrix 我试图给出可能的最大批量。在这种情况下(当纪元数固定时)-您可

我正在训练一个完全卷积的神经网络,用3080*16个输入图像进行训练,一批给16个图像。我这样做已经有100个时代了

in every epoch: 
after each batch:
calculate errors, do weight update, get confusion matrix 
after each validation_batch
calculate errors and confusion matrix
我试图给出可能的最大批量。

在这种情况下(当纪元数固定时)-您可以在更新数量和更新质量之间进行权衡。您更新网络的频率越高(批量越小)-您可能得到的网络越好(假设您使用的是正确的正则化和保姆)。您得到的真实更新参数越接近(批量越大),您的网络就越快收敛到高质量的解决方案,忽略实际可能会恶化模型的更改

设置批大小的最佳方法是,如果有人已经为您的任务找到了最佳批大小,则进行研究,或者进行网格/随机搜索元优化,即设置可能的批大小的合理值,并测试每个选项以找到最佳值。

在这种情况下(当纪元数固定时)-您可以在更新数量和更新质量之间进行权衡。您更新网络的频率越高(批量越小)-您可能得到的网络越好(假设您使用的是正确的正则化和保姆)。您得到的真实更新参数越接近(批量越大),您的网络就越快收敛到高质量的解决方案,忽略实际可能会恶化模型的更改


设置批次大小的最佳方法是,如果有人已经为您的任务找到了最佳批次大小,则进行研究,或者进行网格/随机搜索元优化,即设置可能的批次大小的合理值,并测试每个选项以找到最佳值。

您是否尝试找出您的任务的最佳批次大小训练?不,更多的是打和试吗?或者有计算的方法吗?你是否试图找出适合你的培训的最佳批量大小?没有,更多的是点击和试用?还是有计算的方法?非常感谢Marcin非常感谢Marcin。