如何使用Keras合并或连接两个连续模型?

如何使用Keras合并或连接两个连续模型?,keras,deep-learning,nlp,artificial-intelligence,Keras,Deep Learning,Nlp,Artificial Intelligence,我有一个带有两个文本字段的数据集,在标记化之后,我创建了两个顺序模型,我正在尝试组合或合并它们,但在合并时遇到了错误 我已经构建了两个连续模型,我正在尝试在不使用Keras函数API的情况下合并它们 # define the model model1 = Sequential() model1.add(Embedding(vocabulary_size_1, embedding_size, input_length=MAXLEN)) model1.add(Flatten()) model1.ad

我有一个带有两个文本字段的数据集,在标记化之后,我创建了两个顺序模型,我正在尝试组合或合并它们,但在合并时遇到了错误

我已经构建了两个连续模型,我正在尝试在不使用Keras函数API的情况下合并它们

# define the model
model1 = Sequential()
model1.add(Embedding(vocabulary_size_1, embedding_size, input_length=MAXLEN))
model1.add(Flatten())
model1.add(Dense(op_units, activation='softmax'))

# define the model
model2 = Sequential()
model2.add(Embedding(vocabulary_size_2, embedding_size, input_length=MAXLEN))
model2.add(Flatten())
model2.add(Dense(op_units, activation='softmax'))

merged = concatenate(axis=1)
merged_model=merged([model1.output, model2.ouput])

TypeError                                 Traceback (most recent call last)
<ipython-input-76-79cf08fec6fc> in <module>
----> 1 merged = concatenate(axis=1)
      2 merged_model=merged([model1.output, model2.ouput])

TypeError: concatenate() missing 1 required positional argument: 'inputs'
我期待一种不使用Keras函数API的方法,连接函数要求您指定要连接的模型

合并=连接[model1,model2],轴=1。但是,轴必须是axis=-1。在yopur的情况下,您可以使用任何合适的轴

您的代码可以按以下功能方式进一步编写:

inputs = Input(shape=(vocabulary_size,embedding_size), dtype='float32')

model1=Embedding(vocabulary_size, embedding_size)(inputs)
model1=Flatten()(model1)
model1=Dense(op_units, activation='softmax')(model1)

model2=Embedding(vocabulary_size, embedding_size)(inputs)
model2=Flatten()(model2)
model2=Dense(op_units,activation='softmax')(model2)

merged = concatenate([model1,model2],axis=-1)

model=Model(inputs=inputs,outputs=merged)
连接函数要求您指定要连接的模型

合并=连接[model1,model2],轴=1。但是,轴必须是axis=-1。在yopur的情况下,您可以使用任何合适的轴

您的代码可以按以下功能方式进一步编写:

inputs = Input(shape=(vocabulary_size,embedding_size), dtype='float32')

model1=Embedding(vocabulary_size, embedding_size)(inputs)
model1=Flatten()(model1)
model1=Dense(op_units, activation='softmax')(model1)

model2=Embedding(vocabulary_size, embedding_size)(inputs)
model2=Flatten()(model2)
model2=Dense(op_units,activation='softmax')(model2)

merged = concatenate([model1,model2],axis=-1)

model=Model(inputs=inputs,outputs=merged)
model1.output和model2.output是张量。我假设两个模型共享相同的输入。有几种方法,下面是Keras中处理这些模型的解决方案。您可以使用keras.layers.Concatenate和keras.models.Model:

如果它们不共享相同的文本输入。您也可以这样做:

inp = [model1.input, model2.input]
out = Concatenate()([model1.output, model2.output])
model = Model(inp, out)
默认情况下,这将连接最后一个维度上的输出,该维度恰好是相同的轴=1

在任何情况下,连接softmax输出似乎都很奇怪。如果有两个不同的文本具有两个不同的预测,则需要两个输出。您不需要连接它们。您可以将输出作为列表,并忽略串联:

inp = [model1.input, model2.input]
out = [model1.output, model2.output]
model = Model(inp, out)
如果您在其他类型(如numpy数组)中获得了输出,那么情况就不同了

model1.output和model2.output是张量。我假设两个模型共享相同的输入。有几种方法,下面是Keras中处理这些模型的解决方案。您可以使用keras.layers.Concatenate和keras.models.Model:

如果它们不共享相同的文本输入。您也可以这样做:

inp = [model1.input, model2.input]
out = Concatenate()([model1.output, model2.output])
model = Model(inp, out)
默认情况下,这将连接最后一个维度上的输出,该维度恰好是相同的轴=1

在任何情况下,连接softmax输出似乎都很奇怪。如果有两个不同的文本具有两个不同的预测,则需要两个输出。您不需要连接它们。您可以将输出作为列表,并忽略串联:

inp = [model1.input, model2.input]
out = [model1.output, model2.output]
model = Model(inp, out)

如果您在其他类型(如numpy数组)中获得了输出,那么情况就不同了

我已经做了更改,现在我得到一个值错误。ValueError:应该在至少有2个输入的列表上调用连接层。我正在使用sequential,因为我开发的两个模型是文本列,为了解决nlp问题,我进一步标记了这两个模型。当任何列被标记化时,使用Keras函数API构建模型就变得很困难。如果您对文本标记列使用函数api有任何想法,请与我们分享。您好,答案似乎非常有用,但我有两个词汇表大小。在提供输入时,我应该使用哪一个?实际上,您应该使用序列长度标记的数量。Inputshape=token\u length,embedded\u size,dtype='float32'。你不应该用我们的词汇量,也不应该用字典里的词数。相反,请使用序列中使用的最大令牌数。假设你想在你的句子中最多有200个标记,使用它。我已经做了更改,现在我得到了一个值错误。ValueError:应该在至少有2个输入的列表上调用连接层。我正在使用sequential,因为我开发的两个模型是文本列,为了解决nlp问题,我进一步标记了这两个模型。当任何列被标记化时,使用Keras函数API构建模型就变得很困难。如果您对文本标记列使用函数api有任何想法,请与我们分享。您好,答案似乎非常有用,但我有两个词汇表大小。在提供输入时,我应该使用哪一个?实际上,您应该使用序列长度标记的数量。Inputshape=token\u length,embedded\u size,dtype='float32'。你不应该用我们的词汇量,也不应该用字典里的词数。相反,请使用序列中使用的最大令牌数。假设你想在你的句子中有200个最大标记,使用它。我有两个文本字段预测一个目标,它是多类的,那么为什么你要连接两个softmax层呢?你不应该有一个单一的softmax层,并在softmax之前连接两个模型吗?如果你有10类目标,加上连接,20类目标的概率总和不等于1!我不明白。你能澄清一下吗我有两个文本字段预测一个目标是多类的,那么为什么要连接两个softmax层呢?你不应该有一个单一的softmax层和连接两个模型之前
softmax?如果你有10类目标,加上连接,20类目标的概率总和不等于1!我不明白。你能澄清一下吗