Tensorflow 从三维张量中提取某个标记的嵌入

Tensorflow 从三维张量中提取某个标记的嵌入,tensorflow,keras,Tensorflow,Keras,每个训练示例都包含一个句子(标记列表)、一个开始标记索引和一个结束标记索引。开始和结束索引突出显示了句子中的一些单词。标签为True或False,表示突出显示的单词是否“有趣”。 例如,“新闻”是本例中突出显示的单词 tokens=["This", "news", "is", "sad"], start=1, end=2, label=1 这是我的模型设置。 这些句子被反馈到预先训练的bert层,该层返回一个3D张量,其中包含每个句子中每个标记的嵌入 我想从3D张量中提取每个例子的强光词的嵌

每个训练示例都包含一个句子(标记列表)、一个开始标记索引和一个结束标记索引。开始和结束索引突出显示了句子中的一些单词。标签为True或False,表示突出显示的单词是否“有趣”。
例如,“新闻”是本例中突出显示的单词

tokens=["This", "news", "is", "sad"], start=1, end=2, label=1 
这是我的模型设置。 这些句子被反馈到预先训练的bert层,该层返回一个3D张量,其中包含每个句子中每个标记的嵌入

我想从3D张量中提取每个例子的强光词的嵌入,并得到它们的平均值,这样我就可以把它输入到一个稠密的层中,我该怎么做呢?假设我已经有了三维张量

我正在使用tensorflow 2.0提供的keras API。 我是tensorflow的新手,所以请举一个具体的例子


谢谢

你能补充一下到目前为止你在代码方面得到了什么吗?更新了一点问题。请假设我已经拥有3D tesnor(在急切执行模式下),您是否可以更新什么
令牌
开始
结束
label
看起来像是一批数据。是否有某种形式的保证,可以保证每个示例具有固定数量的开始-结束对,或者可能在示例之间有所不同?示例之间有所不同。您可以添加到目前为止在代码方面得到的信息吗?稍微更新了问题。请假设我已经拥有3D tesnor(在急切执行模式下),您是否可以更新什么
令牌
开始
结束
label
看起来像是一批数据。是否有某种形式的保证可以保证每个示例具有固定数量的开始-结束对,或者在示例之间可能会有所不同?示例之间会有所不同。