Neural network 对神经网络的所有输入进行单独标准化是否更好?

Neural network 对神经网络的所有输入进行单独标准化是否更好?,neural-network,normalization,Neural Network,Normalization,我现在正在研究一个神经网络,Keras使用TensorFlow作为后端,我的模型需要5个输入,所有输入都标准化为0到1。输入单位从m/s到m/s/s不等。例如,在训练数据集中,一个输入可以从0 m/s变化到30 m/s,而另一个输入可以从5 m变化到200 m 单独和独立地规范化所有输入是否更好,以便每个单元/输入具有不同的刻度?或者将所有输入标准化为一个刻度(在上面的示例中,将0-200映射为0-1)会更准确吗?对每个输入进行单独标准化。因为如果你把所有的东西都标准化,除以200,一些输入对你

我现在正在研究一个神经网络,Keras使用TensorFlow作为后端,我的模型需要5个输入,所有输入都标准化为0到1。输入单位从m/s到m/s/s不等。例如,在训练数据集中,一个输入可以从0 m/s变化到30 m/s,而另一个输入可以从5 m变化到200 m


单独和独立地规范化所有输入是否更好,以便每个单元/输入具有不同的刻度?或者将所有输入标准化为一个刻度(在上面的示例中,将0-200映射为0-1)会更准确吗?

对每个输入进行单独标准化。因为如果你把所有的东西都标准化,除以200,一些输入对你的网络的影响会比其他的小。如果一个输入值在0-30之间变化,除以200后得到0-0.15的刻度,并且输入值在0-200之间变化的刻度在除法后为0-1。因此,0-30输入的数字会更少,而您会告诉您的网络,输入与0-200输入没有那么大的相关性。

我认为输入的标准化在您的情况下会起作用。