OpenCL 学习step by step (9) 灰度图Histogram计算(3)
OpenCL 学习step by step (9) 灰度图Histogram计算(3)<div class="postbody"><div id="cnblogs_post_body"> 在opencl编程中，特别是基于gpu的opencl的编程，提高程序性能最主要的方法就是想法提高memory的利用率：一个是提高global memory的合并读写效率，另一个就是减少local memory的bank conflit。下面我们分析一下教程7中的代码，其的memory利用率如何？
首先我们用amd的opencl profiler分析一下程序性能(不会找不到用吧，点击view-other windows-app profiler…,然后就看到了…)。
下面我们来分析我们的kernel代码中memory操作：
首先是shared memory的的初始化，我们知道shared memory是local memory，被一个workgroup中的所有thread，或者说work item共享。在amd硬件系统中，local memory是LDS，它通常是为32k，分为32个bank，dword字节地址，每个bank 512个item，我们可以通过函数得到自己系统中的local memory数量：
cl_ulong DeviceLocalMemSize;
clGetDeviceInfo(device,
CL_DEVICE_LOCAL_MEM_SIZE,
sizeof(cl_ulong),
&DeviceLocalMemSize,
NULL);
lds的示意图如下，对于每个bank，同时只能有一个读写请求，如果两个thread都读写bank1，那个必须串行访问，这就称作bank conflict。
http://images.cnblogs.com/cnblogs_com/mikewolf2002/201210/20121027073521966.png
kernel初始化local memory的代码如下：
//初始化共享内存
for(int i = 0; i < BIN_SIZE; ++i)
sharedArray = 0;
在同一时间，thread0访问地址0(bank1),thread1,访问地址256，也在bank1，…,这样就有很多bank conflit，降低程序的性能。从profiler里面可以看到，lds bank conflit为13.98，很高的比例，所以此时同时运行的thread就比较少，只有总wave(每个wave 64个thread)的12%（我曾经默认lds内存分配是0，这样我们就省去了这些代码，但是实际上分配内存是一些随机的值…)。
http://images.cnblogs.com/cnblogs_com/mikewolf2002/201210/201210270735221117.png
http://images.cnblogs.com/cnblogs_com/mikewolf2002/201210/201210270735285539.png
第二段memory操作的代码为：
//计算thread直方图
for(int i = 0; i < BIN_SIZE; ++i)
{
uint value = (uint)data;
sharedArray++;
}
其中有lds的操作，也有global memory的操作，对于全局memory的访问，在同一时刻，thread0访问i=0的memory
，thread1访问相邻的memory单元…,这是对于global memory的访问会采用合并读写的方式(coalencing)，就是一个memory请求返回16个dword，也就是一个请求满足16个thread，提高memory利用率。此时对lds的写是随机的，根据value的值决定，不能控制…
http://images.cnblogs.com/cnblogs_com/mikewolf2002/201210/201210270735307783.png
最后一段memory读写的代码：
//合并workgroup中所有线程的直方图，产生workgroup直方图
for(int i = 0; i < BIN_SIZE / groupSize; ++i)
{
uint binCount = 0;
for(int j = 0; j < groupSize; ++j)
binCount += sharedArray;
binResult = binCount;
}
其中lds的读写如下图，此时每个线程访问不同的bank，因为amd lds访问就是以32为单位，所以实际上，这段代码不会有bank conflit。
http://images.cnblogs.com/cnblogs_com/mikewolf2002/201210/201210270735321173.png
页:
[1]