Math 有助于理解单极传递函数

Math 有助于理解单极传递函数,math,function,neural-network,algebra,Math,Function,Neural Network,Algebra,对于单极传递函数,我一直坚持使用以下公式: f(net)= 1 __________ -net 1 + e 该示例具有以下内容: out = 1 ____________ = 0.977 -3.75 1 + e 我们如何到达0.977 什么是e?e=2.71828。。。是的。这是一个数学常数,出现在许多不同的方程中,类似于π。在做指数和对数

对于单极传递函数,我一直坚持使用以下公式:

f(net)=     1
         __________
               -net
         1 + e 
该示例具有以下内容:

out =        1
        ____________  = 0.977
               -3.75
        1 + e
我们如何到达0.977

什么是e?

e=2.71828。。。是的。这是一个数学常数,出现在许多不同的方程中,类似于π。在做指数和对数时,你会一直看到它

你得到0.977。

e=2.718281828


如果你把e提高到-3.75次方,再加上一,取反,你会得到0.977022630

“e”是自然对数函数的基,其值等于无穷级数的和1/n!对于n,从0到无穷大。它在C标准库或java Math包中作为exp()函数提供


如果你计算1/(1+exp(-3.75)),你将得到0.977

,而事实上,其他回答只提供了e值并确认了基础计算。这种类型的神经网络非常普遍,因此一些额外的见解可能是受欢迎的

基本上,指数函数(e到x的幂)有一个非常典型的曲线:

  • 在零处基本平坦(实际上略高于零),从-无穷大到大约-2
  • 逐渐向垂直方向急转弯,大约在-2和+4之间
  • 准“垂直”,值超过150,且越来越大,从+5到无穷大
因此,指数曲线对于生成“S形”函数非常有用;顺便说一句,“S”是希腊语中的Sigma,它提供了“sigmoid”的词源。此类函数通常以问题中所示的公式为模式:

 1/(1 + e^-x)
其中x是变量。通常,此类函数还包括旨在拉伸范围(x变化显著的输入区域)和/或修改中间区域曲线的常数。
此类函数的结果是,在输入的特定值之前,函数是准常量,然后,对于特定的输入范围,函数提供递增的输出,最后超过范围的上限值,函数是准常量。从更详细的角度来看,此类S形曲线有一个拐点,对应于ouptut变化率的反转,并且在曲线的任意一侧标记一个区域,其中变化相对来说最慢

反过来,这样的S形曲线(1)对于规范化神经网络神经元的输出非常有用,或者更一般地,对于规范化各种性质过程中的各种数值非常有用。直觉上,这些对应于潜在神经元或装置的“最佳点”或“最佳范围”

(1) 或者,也可能是“降压”形状的曲线,即具有大部分恒定的高值、中等范围内的下降值以及此后的大部分恒定值的低值的曲线