删除下载的tensorflow和pytorch(拥抱面)模型

删除下载的tensorflow和pytorch(拥抱面)模型,tensorflow,pytorch,huggingface-transformers,Tensorflow,Pytorch,Huggingface Transformers,我想从我的笔记本电脑上删除tensorflow和hugging face模型。 我确实找到了一个链接 但是没有可以删除它们的命令,因为如链接中所述,手动删除可能会导致问题,因为我们不知道哪些其他文件链接到这些模型,或者希望某个模型出现在该位置,或者可能会导致一些错误 pip uninstall tensorflow pip uninstall tensorflow-gpu pip uninstall transformers 并找到保存gpt-2的位置 模型。保存预训练(“/english-

我想从我的笔记本电脑上删除tensorflow和hugging face模型。 我确实找到了一个链接 但是没有可以删除它们的命令,因为如链接中所述,手动删除可能会导致问题,因为我们不知道哪些其他文件链接到这些模型,或者希望某个模型出现在该位置,或者可能会导致一些错误

pip uninstall tensorflow 
pip uninstall tensorflow-gpu
pip uninstall transformers
并找到保存gpt-2的位置

模型。保存预训练(“/english-gpt2”)

english-gpt2=您下载的型号名称


您可以从该路径手动删除。

变压器库将下载的文件存储在缓存中。据我所知,没有内置的方法从缓存中删除某些模型。但是你可以自己编写代码。这些文件与附加了
.json
.h5.json
(对于Tensorflow模型)和
.lock
的两个文件一起以加密名称存储。json文件包含一些可用于标识文件的元数据。以下是此类文件的示例:

{"url": "https://cdn.huggingface.co/roberta-base-pytorch_model.bin", "etag": "\"8a60a65d5096de71f572516af7f5a0c4-30\""}
我们现在可以使用此信息创建缓存文件列表,如下所示:

导入全局
导入json
进口稀土
从集合导入订单
从transformers导入transformers\u缓存
metaFiles=glob.glob(TRANSFORMERS_CACHE+'/*.json')
modelRegex=“huggingface\.co\/(*)(pytorch_model\.bin$解析\/main\/tf_model\.h5$)
cachedModels={}
cachedTokenizers={}
对于元文件中的文件:
打开(文件)为j时:
data=json.load(j)
isM=重新搜索(modelRegex,数据['url']))
如果是isM:
cachedModels[isM.group(1)[:-1]]=文件
其他:
cachedTokenizers[data['url'].partition('huggingface.co/')[2]]=文件
cachedTokenizers=OrderedDict(已排序(cachedTokenizers.items(),key=lambda k:k[0]))

现在,您所要做的就是检查
cachedModels
cachedTokenizer
的键,并决定是否保留它们。如果要删除它们,只需检查字典的值并从缓存中删除文件。不要忘记同时删除相应的
*.json
*.lock
文件。

是否要删除某些型号或整个缓存(即所有型号)?某些型号,要删除不再有用的模型并在硬盘上释放某些空间,而不是OP所要查找的,因为它将删除所有库,并且不会清除默认缓存。根据我的经验,如果您保存它(huggingface-gpt-2型号,它不在缓存中,而是在磁盘上。让我知道你的操作系统,这样我可以给你相应的命令。如果这是Linux,使用grep命令,我可以很容易地找到。我想这是某种误解。OP(不是我)只想删除某些型号,而不是整个
transformers
库。这就是为什么我说你没有回答OP的问题。我也只是测试了你所说的,调用
save\u pretrained
不会清除缓存(我认为这是正确的).据我记忆所及,缓存是RAM内存的一部分,我猜可能会存储在硬盘上,因为它们可能不会永久地存储在RAM内存中?需要时,它们可能会加载到缓存中。但我的目标是从硬盘上删除。我想删除一些不再使用的型号,从而释放一些硬盘空间。@Hitessomani这两个答案都是r从硬盘中删除模型。缓存只是中间存储的一个术语,可以是RAM、处理器或硬盘。有关详细信息,请查看Wikipedia。