Neural network 神经网络对归一化数据不够精确

Neural network 神经网络对归一化数据不够精确,neural-network,Neural Network,我的训练数据没有标准化,包含-2000到2000之间的数字。 如果我的训练数据输入为300,我将其标准化: 1 / 300 = 0,0033~ 所以它的范围是-1-1 问题是标准化值之间的差异太小 1 / 300 = 0,00333~ 1 / 299 = 0,00334~ 它要求神经网络具有极高的精度。 我使用基于梯度的反向传播算法,而tanh是激活函数。神经网络需要很长时间才能达到这个精度 我应该使用什么学习方法,或者如何改进我当前的神经网络来完成这项任务? 谢谢 您可以对前几层使用(线性

我的训练数据没有标准化,包含-2000到2000之间的数字。 如果我的训练数据输入为300,我将其标准化:

1 / 300 = 0,0033~
所以它的范围是-1-1

问题是标准化值之间的差异太小

1 / 300 = 0,00333~
1 / 299 = 0,00334~
它要求神经网络具有极高的精度。 我使用基于梯度的反向传播算法,而tanh是激活函数。神经网络需要很长时间才能达到这个精度

我应该使用什么学习方法,或者如何改进我当前的神经网络来完成这项任务? 谢谢

您可以对前几层使用(线性激活)激活功能,并对输出层进行tanh激活

Input (-ReLU-> Hidden L.)*n -tanh-> Output

这真的是唯一的解决办法吗?我真的不想使用线性激活函数,可能不会。实际上,我对这个话题也很陌生,我也不喜欢ReLU的概念,但只要你有足够的隐藏层(>1),它就可以很好地工作。