Python 将数据复制到GPU时没有性能问题
我在尝试使用theano和lasagne训练深度卷积神经网络时遇到了一些性能问题。我做了一些实验来调查它们的来源。我发现，从主内存向GPU加载成批图像需要很长时间。这里有一个简单的例子来说明这个问题。它只是乘以在批量大小为1、2、4、8、16、，。。。我正在处理448x448大小的RGB图像Python 将数据复制到GPU时没有性能问题,python,gpu,theano,deep-learning,Python,Gpu,Theano,Deep Learning,我在尝试使用theano和lasagne训练深度卷积神经网络时遇到了一些性能问题。我做了一些实验来调查它们的来源。我发现，从主内存向GPU加载成批图像需要很长时间。这里有一个简单的例子来说明这个问题。它只是乘以在批量大小为1、2、4、8、16、，。。。我正在处理448x448大小的RGB图像 import numpy as np import theano import theano.tensor as T import time var = T.ftensor4('inputs') f =
import numpy as np
import theano
import theano.tensor as T
import time
var = T.ftensor4('inputs')
f = theano.function([var], var)
for batchsize in [2**i for i in range(6)]:
X = np.zeros((batchsize,3,448,448), dtype=np.float32)
print "Batchsize", batchsize
times = []
start = time.time()
for i in range(1000):
f(X)
times.append(time.time()-start)
start = time.time()
print "-> Function evaluation takes:", np.mean(times), "+/-", np.std(times), "sec"
Batchsize 1
-> Function evaluation takes: 0.000177580833435 +/- 2.78762612138e-05 sec
Batchsize 2
-> Function evaluation takes: 0.000321553707123 +/- 2.4221262933e-05 sec
Batchsize 4
-> Function evaluation takes: 0.000669012069702 +/- 0.000896798280943 sec
Batchsize 8
-> Function evaluation takes: 0.00137474012375 +/- 0.0032982626882 sec
Batchsize 16
-> Function evaluation takes: 0.176659427643 +/- 0.0330068803715 sec
Batchsize 32
-> Function evaluation takes: 0.356572513342 +/- 0.074931685704 sec
DeepCopyOp [@A] 'inputs' 0
|inputs [@B]
Function profiling
==================
Message: theano_test.py:14
Time in 6000 calls to Function.__call__: 3.711728e+03s
Time in Function.fn.__call__: 3.711528e+03s (99.995%)
Time in thunks: 3.711491e+03s (99.994%)
Total compile time: 6.542931e-01s
Number of Apply nodes: 1
Theano Optimizer time: 7.912159e-03s
Theano validate time: 0.000000e+00s
Theano Linker time (includes C, CUDA code generation/compiling): 8.321500e-02s
Import time 2.951717e-02s
Time in all call to theano.grad() 0.000000e+00s
Class
---
<% time> <sum %> <apply time> <time per call> <type> <#call> <#apply> <Class name>
100.0% 100.0% 3711.491s 6.19e-01s C 6000 1 theano.compile.ops.DeepCopyOp
... (remaining 0 Classes account for 0.00%(0.00s) of the runtime)
Ops
---
<% time> <sum %> <apply time> <time per call> <type> <#call> <#apply> <Op name>
100.0% 100.0% 3711.491s 6.19e-01s C 6000 1 DeepCopyOp
... (remaining 0 Ops account for 0.00%(0.00s) of the runtime)
Apply
------
<% time> <sum %> <apply time> <time per call> <#call> <id> <Apply name>
100.0% 100.0% 3711.491s 6.19e-01s 6000 0 DeepCopyOp(inputs)
... (remaining 0 Apply instances account for 0.00%(0.00s) of the runtime)
INFO (theano.gof.compilelock): Waiting for existing lock by process '3642' (I am process '22124')
INFO (theano.gof.compilelock): To manually release the lock, delete /home/bal8rng/.theano/compiledir_Linux-3.16--generic-x86_64-with-debian-jessie-sid-x86_64-2.7.10-64/lock_dir
函数评测
==================
消息：theano_测试。py:14
6000次调用中的时间。调用：3.711728e+03s
函数中的时间。fn.\u调用：3.711528e+03s（99.995%）
时间单位：3.711491e+03s（99.994%）
总编译时间：6.542931e-01s
应用节点数：1
Theano优化器时间：7.912159e-03s
Theano验证时间：0.000000e+00s
Theano链接器时间（包括C、CUDA代码生成/编译）：8.321500e-02s
导入时间2.951717e-02s
调用ano.grad（）0.000000e+00s的所有时间
等级
---
100.0%100.0%3711.491s 6.19e-01s C 6000 1 theano.compile.ops.DeepCopyOp
... （剩余的0类占运行时的0.00%（0.00s）
老年退休金
---
100.0%100.0%3711.491s 6.19e-01s C 6000 1 DeepCopyOp
... （剩余的0个操作占运行时间的0.00%（0.00s）
申请
------
100.0%100.0%3711.491s 6.19e-01s 6000 0深度复制（输入）
... （剩余的0个应用实例占运行时的0.00%（0.00s）
信息（theano.gof.compilelock）：正在等待进程“3642”的现有锁（我是进程“22124”）
INFO（theano.gof.compilelock）：要手动释放锁，请删除/home/bal8rng/.theano/compiledir\u Linux-3.16--generic-x86\u 64-with-debian-jessie-sid-x86\u 64-2.7.10-64/lock\u dir
floatX=float32，device=gpu，optimizer\u include=conv\u meta，mode=FAST\u RUN，blas.ldflags=“-L/usr/lib/openblas base-lopenblas”，device=gpu3，assert\u no\u cpu\u op=raisef=theano.function（[var]，var）theano.printing.debugprint(f)
GpuFromHostHostFromGpu顺便说一句，运行您的代码（在我的服务器上，尽管在配置中，
device=gpu