Lua 为什么Torch在使用1.5mb网络进行预测时使用约700mb的GPU内存
我对Torch/CUDA非常陌生，我正在尝试从测试小型二进制网络（~1.5mb），但我一直遇到“内存不足”的问题 我使用的是一个相对较弱的GPU（NVIDIA Quadro K600），在16.04 Ubuntu和CUDA 10.0以及CudNN 5.1版上有大约900Mb的图形内存。所以我并不真正关心性能，但我认为我至少能够运行一个小型网络进行预测，一次一个图像（特别是一个据说是针对那些“资源有限”的人的图像） 我设法在headless模式下运行代码，并检查了大约700Mb的内存消耗，这就解释了为什么当我运行一台占用大约250Mb GPU内存的X-server时，它会立即失败 我还添加了一些日志来查看main.lua的运行情况，在内存耗尽的第一个映像上调用Lua 为什么Torch在使用1.5mb网络进行预测时使用约700mb的GPU内存,lua,out-of-memory,torch,Lua,Out Of Memory,Torch,我对Torch/CUDA非常陌生，我正在尝试从测试小型二进制网络（~1.5mb），但我一直遇到“内存不足”的问题 我使用的是一个相对较弱的GPU（NVIDIA Quadro K600），在16.04 Ubuntu和CUDA 10.0以及CudNN 5.1版上有大约900Mb的图形内存。所以我并不真正关心性能，但我认为我至少能够运行一个小型网络进行预测，一次一个图像（特别是一个据说是针对那些“资源有限”的人的图像） 我设法在headless模式下运行代码，并检查了大约700Mb的内存消耗，这就解释
output:copy（model:forward（img）） require 'torch'
require 'nn'
require 'cudnn'
require 'paths'
require 'bnn'
require 'optim'
require 'gnuplot'
require 'image'
require 'xlua'
local utils = require 'utils'
local opts = require('opts')(arg)
print("Starting heap tracking")
torch.setheaptracking(true)
torch.setdefaulttensortype('torch.FloatTensor')
torch.setnumthreads(1)
-- torch.
local model
if opts.dataset == 'AFLWPIFA' then
print('Not available for the moment. Support will be added soon')
os.exit()
model = torch.load('models/facealignment_binary_pifa.t7')
else
print("Loading model")
model = torch.load('models/facealignment_binary_aflw.t7')
end
model:evaluate()
local fileLists = utils.getFileList(opts)
local predictions = {}
local noPoints = 68
if opts.dataset == 'AFLWPIFA' then noPoints = 34; end
local output = torch.CudaTensor(1,noPoints,64,64)
for i = 1, #fileLists do
local img = image.load(fileLists[i].image)
local originalSize = img:size()
img = utils.crop(img, fileLists[i].center, fileLists[i].scale, 256)
img = img:cuda():view(1,3,256,256)
output:copy(model:forward(img))
它必须不仅仅是网络和加载到GPU的图像。我最好的猜测是它与
LoadFileLists