Python Keras中的单词包嵌入层？

我有一个非常简单的Keras模型，看起来像：

model = Sequential()
model.add(Dense(hidden_size, input_dim=n_inputs, activation='relu'))
model.add(Dense(n_outputs, activation='softmax'))

我使用的嵌入是一袋文字

我想将嵌入步骤作为模型的一部分。我想做一个嵌入层。。。但我不知道是否有可能实现一个单词包模型作为Keras嵌入层？我知道你们可以将预先训练好的弓和手套嵌入模型传递给嵌入层，所以我想知道弓是否可以做类似的事情

---

任何想法都将不胜感激！：D

Keras中的嵌入层（基本上是所有深度学习框架）进行查找：对于令牌索引，它返回密集嵌入

问题是，您希望如何嵌入一包单词表示？我认为其中一个合理的选择是：

对每个单词进行嵌入查找

平均令牌嵌入，从而得到表示弓的单个向量。在Keras中，您可以使用

平均可能比求和更好，因为对于不同长度的序列，输出将具有相同的比例

请注意，对于嵌入查找，您需要输入具有batch×sequence length的形状，其整数对应于词汇表中的标记索引