Python 3.x 将GPT-2与您自己的词典一起使用

Python 3.x 将GPT-2与您自己的词典一起使用,python-3.x,nlp,gpt-2,Python 3.x,Nlp,Gpt 2,我正在使用自定义编码和自定义vocab.bpe文件培训gpt-2。但是,当我使用gpt-2生成文本时,输出标记的范围超出了我的新编码范围。 那么我怎样才能让gpt-2为我工作呢?你能告诉我们你是如何解决的吗?我正在尝试为另一种语言创建一个新的encoder.json和vocab.bpe文件,但我还找不到任何有用的东西。非常感谢。

我正在使用自定义编码和自定义vocab.bpe文件培训gpt-2。但是,当我使用gpt-2生成文本时,输出标记的范围超出了我的新编码范围。
那么我怎样才能让gpt-2为我工作呢?

你能告诉我们你是如何解决的吗?我正在尝试为另一种语言创建一个新的
encoder.json
vocab.bpe
文件,但我还找不到任何有用的东西。非常感谢。