Pytorch ResNet模型未按预期使用GPU内存大小
我正在使用torchvision.models.resnet50做一些实验。但我发现GPU上的模型使用的内存大小比预期的要小。 以下是我的代码:Pytorch ResNet模型未按预期使用GPU内存大小,pytorch,gpu,resnet,Pytorch,Gpu,Resnet,我正在使用torchvision.models.resnet50做一些实验。但我发现GPU上的模型使用的内存大小比预期的要小。 以下是我的代码: import torch import torchvision from torchsummary import summary import numpy as np model = torchvision.models.resnet50(pretrained=True) model = model.cuda() summary(model, (3,
import torch
import torchvision
from torchsummary import summary
import numpy as np
model = torchvision.models.resnet50(pretrained=True)
model = model.cuda()
summary(model, (3, 448, 448), 24)
input = torch.tensor(np.random.random((24, 3, 448, 448)), dtype=torch.float32)
input = input.cuda()
while True:
model(input)
当我运行这段代码时,summary函数告诉我,要使用的总内存约为27GB,包括参数和向前/向后传递大小。我认为,根据resnet50的网络,这接近预期的规模。
但是,当模型转换为GPU并运行培训时,我发现GPU内存使用量仅保持在9GB左右。
这正常吗?我担心GPU不能为我的培训工作提供完整的计算。
有人能帮我一下吗?谢谢 你怎么知道预期的尺寸是多少?这个27GB的数字是从哪里来的?您如何知道预期的大小?这个27GB的数字是从哪里来的?