OpenCL中的重叠传输和设备计算
我是OpenCL的初学者，我很难理解一些东西。 我想改进主机和设备之间的图像传输。 我制定了一个计划来更好地了解我 上图：我现在拥有的；下图：我想要的 HtD（主机到设备）和DtH（设备到主机）是内存传输。 K1和K2是内核 我考虑过使用映射内存，但是第一次传输（主机到设备）是通过clSetKernelArg（）命令完成的，不是吗？ 或者我必须将输入图像剪切成子图像，然后使用映射来获得输出图像吗 谢谢 编辑：更多信息 K1处理mem输入图像。 K2处理来自K1的输出图像 所以，我想把MemInput转换成K1的几个部分。OpenCL中的重叠传输和设备计算,opencl,gpgpu,Opencl,Gpgpu,我是OpenCL的初学者，我很难理解一些东西。 我想改进主机和设备之间的图像传输。 我制定了一个计划来更好地了解我 上图：我现在拥有的；下图：我想要的 HtD（主机到设备）和DtH（设备到主机）是内存传输。 K1和K2是内核 我考虑过使用映射内存，但是第一次传输（主机到设备）是通过clSetKernelArg（）命令完成的，不是吗？ 或者我必须将输入图像剪切成子图像，然后使用映射来获得输出图像吗 谢谢 编辑：更多信息 K1处理mem输入图像。 K2处理来自K1的输出图像 所以，我想把MemIn
我想读取K2处理的备忘录并将其保存在主机上。正如您可能已经看到的，您可以使用
clEnqueueWriteBufferclFinishclFlushclEnqueueWaitForEventsclEnqueueWriteBufferclEnqueueWriteBufferClenqueEndRangeKernelcl_event evt;
clEnqueueWriteBuffer(... , bufferB , ... , ... , ... , bufferBdata , NULL , NULL , &evt);
clEnqueueNDRangeKernel(... , kernelB , ... , ... , ... , ... , 1 , &evt, NULL);
编辑：总结以下评论 传输数据-什么命令在哪里起作用 CPU GPU BufA BufB array[] = {...} clCreateBuffer() -----> [ ] //Create (empty) Buffer in GPU memory * clCreateBuffer() -----> [ ] [ ] //Create (empty) Buffer in GPU memory * clWriteBuffer() -arr-> [array] [ ] //Copy from CPU to GPU clCopyBuffer() [array] -> [array] //Copy from GPU to GPU clReadBuffer() <-arr- [array] [array] //Copy from GPU to CPU CPU GPU BufA BufB 数组[]={…} clCreateBuffer（）------>[]//在GPU内存中创建（空）缓冲区* clCreateBuffer（）------>[][]//在GPU内存中创建（空）缓冲区* clWriteBuffer（）-arr->[array][//从CPU复制到GPU clCopyBuffer（）[array]->[array]//从GPU复制到GPU
clReadBuffer（）创建命令队列时，需要在属性中启用无序执行。请参阅：CL_队列_OUT_OF u ORDER_EXEC_MODE_ENABLE 这将允许您设置较小的任务链，并将它们相互链接。这一切都是在主机上完成的 主机伪代码：
for i in taskChainList
enqueueWriteDataFromHost
enqueueKernel(K1)
enqueueKernel(K2)
enqueueReadFromDevice
clfinish
cl_event prevWriteEvent;
cl_event newWriteEvent;
for i in taskChainList
enqueueWriteDataFromHost // pass *prevWriteEvent as the event_wait_list, and update with newWriteEvent that the enqueue function produces. Now each Write will wait on the one before it.
enqueueKernel(K1)
enqueueKernel(K2)
enqueueReadFromDevice //The reads shouldn't come back out of order, but they could (if the last block of processing were much faster then the 2nd-last for example)
clfinish
许多OpenCL平台不支持无序命令队列；大多数供应商说，进行重叠DMA和计算的方式是使用多个（按顺序）命令队列。您可以使用事件来确保以正确的顺序完成依赖关系。NVIDIA的示例代码显示了重叠DMA并以这种方式进行计算（虽然这是次优的；它可以比他们所说的稍快一点）。正确的方法（正如我所做的，并且工作得很好）是创建两个命令队列，一个用于I/O，另一个用于处理。两者必须在相同的上下文中 您可以使用事件来控制两个队列的调度，操作将并行执行（如果可以的话）。即使设备不支持outoforderqueue，它也确实可以工作 例如，您可以将I/O队列中的所有100个映像排队到GPU并获取它们的事件。然后将此事件设置为内核的触发器。DtoH传输由内核事件触发。
即使您一次将所有这些作业排队，它们也将以并行I/O的顺序进行处理。Ok。但我的问题是缓冲区的传输（在我的例子中是2D图像）。例如：在我的主机上，我有一个表示100个元素的数组的缓冲区。但是我想在设备上一次发送10个元素，一旦完成，我同意，我会同步启动我的内核。我希望避免在开始时完全传输缓冲区（请参见方案）。我刚才作为点编写的两个参数可以接收大小数组，一个设置范围，另一个设置要复制的区域的偏移量。我还没有医生，但我想这正是你想要的！；）这样：
size\u t origin[]={0,0,0}，region[]={2,2,1}；clEnqueueWriteImage（队列、图像、CL_FALSE、原点、区域、0、0、yourHostData、事件到等待、新事件）yourHostData区域[2]1clenqueuwrite…clenqueuered…clenqueecopy…