C++ 对于tanh激活函数神经网络,规范化负/非数值数据的最佳方法是什么

C++ 对于tanh激活函数神经网络,规范化负/非数值数据的最佳方法是什么,c++,machine-learning,neural-network,artificial-intelligence,backpropagation,C++,Machine Learning,Neural Network,Artificial Intelligence,Backpropagation,我用的是前馈,梯度下降,反向传播神经网络 其中,隐藏/输出神经元使用tanh激活函数,而输入神经元是线性的 在您看来,在以下情况下,规范化数值数据的最佳方法是什么: 已知最大数,例如最大正数为1000,最大负数为-1000 最大数量未知 如果我对所有输入保持最大值不变,或者可以吗 网络输入是否有不同的规范化方式 谢谢 如果已知max和min,最简单的标准化是: normalized = (val - min) / (max - min) 如果max未知,您可以根据现有数据进行规范化,因为tan

我用的是前馈,梯度下降,反向传播神经网络 其中,隐藏/输出神经元使用tanh激活函数,而输入神经元是线性的

在您看来,在以下情况下,规范化数值数据的最佳方法是什么:

  • 已知最大数,例如最大正数为1000,最大负数为-1000

  • 最大数量未知

  • 如果我对所有输入保持最大值不变,或者可以吗 网络输入是否有不同的规范化方式


    谢谢

    如果已知
    max
    min
    ,最简单的标准化是:

    normalized = (val - min) / (max - min)
    
    如果
    max
    未知,您可以根据现有数据进行规范化,因为
    tanh
    对于超过1的值具有良好的特性

    您应该根据输入值的范围对不同的输入进行规范化,并且可以对不同的输入使用不同的规范化过程