从CPU上运行的TPU保存的pytorch模型

从CPU上运行的TPU保存的pytorch模型,pytorch,huggingface-transformers,xla,Pytorch,Huggingface Transformers,Xla,我发现了有趣的模型问题生成器,但无法运行它。我有一个错误: Traceback (most recent call last): File "qg.py", line 5, in <module> model = AutoModelWithLMHead.from_pretrained("/home/user/ml-experiments/gamesgen/t5-base-finetuned-question-generation-ap/&qu

我发现了有趣的模型问题生成器,但无法运行它。我有一个错误:

Traceback (most recent call last):
  File "qg.py", line 5, in <module>
    model = AutoModelWithLMHead.from_pretrained("/home/user/ml-experiments/gamesgen/t5-base-finetuned-question-generation-ap/")
  File "/home/user/.virtualenvs/hugging/lib/python3.7/site-packages/transformers/modeling_auto.py", line 806, in from_pretrained
    return model_class.from_pretrained(pretrained_model_name_or_path, *model_args, config=config, **kwargs)
  File "/home/user/.virtualenvs/hugging/lib/python3.7/site-packages/transformers/modeling_utils.py", line 798, in from_pretrained
    import torch_xla.core.xla_model as xm
ModuleNotFoundError: No module named 'torch_xla'
回溯(最近一次呼叫最后一次):
文件“qg.py”,第5行,在
model=automodelWithlHead.from_pretrained(“/home/user/ml experiments/gamesgen/t5 base微调问题生成ap/”)
文件“/home/user/.virtualenvs/hugging/lib/python3.7/site packages/transformers/modeling\u auto.py”,第806行,from\u pretrained
从预训练返回模型类(预训练模型名或路径,*model参数,config=config,**kwargs)
文件“/home/user/.virtualenvs/hugging/lib/python3.7/site packages/transformers/modeling_utils.py”,第798行,from_pretrained
将torch_xla.core.xla_模型作为xm导入
ModuleNotFoundError:没有名为“torch\u xla”的模块
我在谷歌上搜索了一下,发现“torch_xla”是一种用于在TPU上训练pytorch模型的东西。但我想在cpu上本地运行它(当然是为了推理),当pytorch尝试加载tpu绑定张量时,出现了这个错误。 我怎样才能修好它


这就是我尝试过的模型:

正如@cronoik所建议的,我已经从github安装了
transformers
库。我克隆了最新版本,并在其目录中执行了
python3 setup.py install
。此错误已修复,但尚未在python的数据包存储库中发布。

这是一个已修复但尚未发布的版本。从github中拉出转换器或将补丁应用到您的版本。