Neural network 使用交叉验证时计算多类别分类的损失

Neural network 使用交叉验证时计算多类别分类的损失,neural-network,pytorch,cross-validation,mnist,Neural Network,Pytorch,Cross Validation,Mnist,我正在用手写数字在MNIST数据集上训练我的神经网络。我使用Pytork,想知道当使用交叉验证(Kfold)进行5倍验证时,计算损失的正确方法是什么?我想画一个损耗图,比较列车和测试损耗 我使用交叉熵损失作为损失函数。我应该在每次折叠中取每个时代损失的平均值吗?这样,如果我使用5个历元,损失图由5个数据点组成,其中第一个点对应于所有5倍的第一个历元的平均损失 我还使用了128的批量大小。起初损失约为1,61,最后损失约为1,47。该模型的准确率为97.7%,这种损失的小幅度减少奇怪吗?你在交叉验

我正在用手写数字在MNIST数据集上训练我的神经网络。我使用Pytork,想知道当使用交叉验证(Kfold)进行5倍验证时,计算损失的正确方法是什么?我想画一个损耗图,比较列车和测试损耗

我使用交叉熵损失作为损失函数。我应该在每次折叠中取每个时代损失的平均值吗?这样,如果我使用5个历元,损失图由5个数据点组成,其中第一个点对应于所有5倍的第一个历元的平均损失


我还使用了128的批量大小。起初损失约为1,61,最后损失约为1,47。该模型的准确率为97.7%,这种损失的小幅度减少奇怪吗?

你在交叉验证什么?超参数设置?通过展平的图片(x_列)和所属标签(y_列)进行交叉验证。使用Adam作为优化器,lr=0.00095,一个隐藏线性层,包含597个隐藏神经元@伊查科夫