Keras中嵌入层的偏差权重

Keras中嵌入层的偏差权重,keras,embedding,Keras,Embedding,我正在研究前馈神经网络,并且正在使用keras嵌入。 我想为嵌入设置偏差权重,但我不确定如何设置 Keras密集层允许指定use_bias=True,然后设置偏移权重。 有没有一种嵌入层的等效方法?您可以使用向量长度等于1的另一种嵌入作为偏差。例如,下面的代码获取输入a和b的嵌入和偏差,取两个向量的点积,然后将偏差与点积相加 来自keras.models导入模型 从keras.layers导入嵌入、输入、添加、点 a=输入(形状=(1,)) b=输入(形状=(1,)) emb_a=嵌入(num_

我正在研究前馈神经网络,并且正在使用keras嵌入。 我想为嵌入设置偏差权重,但我不确定如何设置

Keras密集层允许指定use_bias=True,然后设置偏移权重。
有没有一种嵌入层的等效方法?

您可以使用向量长度等于1的另一种嵌入作为偏差。例如,下面的代码获取输入a和b的嵌入和偏差,取两个向量的点积,然后将偏差与点积相加

来自keras.models导入模型
从keras.layers导入嵌入、输入、添加、点
a=输入(形状=(1,))
b=输入(形状=(1,))
emb_a=嵌入(num_单词+1,50)(a)
偏差a=嵌入(num_单词+1,1)(a)
emb_b=嵌入(num_单词+1,50)(b)
偏差b=嵌入(num_单词+1,1)(b)
点=点(轴=-1)([a,b])
add=add()([点,偏差a,偏差b])

您展示了如何使用1D嵌入创建嵌入和偏差项,但如何在Keras中创建全局偏差/平均值?这只是您要添加到上面最后一行代码中的1个变量/权重。