Machine learning 神经网络偏差实现的差异

我已经学习了3种不同的带偏差神经元的神经网络实现，但我很少搜索文献来说明它们之间的差异。假设我们有

X=[x1，x2]

向输入数据添加其他维度 扩展数据=np.array（[[x1，x2,1]]）.T Z1=np.点（W1，A0） A1=relu（Z1） Z2=np.dot（W2，A1） 不考虑偏差更新

详情如下:

#/usr/bin/env蟒蛇3
#-*-编码：utf-8-*-
"""
@作者姚耀
@日期：2019年10月20日星期日19:03:21
@版本1.0
"""
将matplotlib.pyplot作为plt导入
将numpy作为np导入
np.随机种子（1）
def f（x1，x2）：
返回x1**2+5*x2+1
X1=np.linspace（-10,101000）
X2=np.linspace（-10,101000）
Ydata=f（X1，X2）
扩展数据=np.hstack（（X1[：，np.newaxis]，X2[：，np.newaxis]））
Ydata=Ydata[：，np.newaxis]
def乙状结肠（x）：
返回1/（1+np.exp（-x））
def sigmoid_向后（x）：
y=乙状结肠（x）
返回y*（1-y）
def relu（x）：
返回np.最大值（0，x）
def tanh（x）：
返回np.tanh（x）
def tanh_向后（x）：
返回1-np.tanh（x）**2
def relu_向后（x）：
xcp=np.one（x.shape）
（xW=[w11，w11，w11，w12，w12，w12；xW=[w11，w11，w12；x

，等于2。

事实上是一样的。让我们来看一个例子。让

W=[w11，w12；w21，w22]

，

b=[b1；b2]

和

x=[x1；x2]

。然后从1（

W'=[1，2，b1；w21，w22，b2]/x2]
x>开始=[w11，w12，b1；w21，w22，b2]*[x1；x2；1]=[w11*x1+w12*x2+b1*1；w21*x1+w22*x2+b2*1]=[w11*x1+w12*x2；w21*x1+w22]+[b1*1；b2*1]=W*x+b
，等于2。
谢谢！我已经更新了我的问题并粘贴了我的代码。你能试试吗？我对结果感到困惑，似乎方法1有一些限制。谢谢！我已经更新了我的问题并粘贴了我的代码。你能试试吗？我对结果感到困惑，似乎方法1有一些限制欺骗。