如何基于AM57x测试OpenCL的加速性能？

chuanglong

1  实验说明
* }5 m  s0 _7 G本例程测试功能：读取指定的图像数据，然后对图像进行灰度转换和Canny算法处理，计算处理过程所耗的时间，并将处理后的图像保存到当前目录下。
8 Y( f1 D, C6 Q2 k本例程主要是测试OpenCL是否对这两种算法有优化效果，分别从禁用OpenCL和使能OpenCL两种情况来计算处理图像数据所用的时间，将测试的结果与官方提供的测试结果进行对比和验证。
2 `. {; K. ~  `! ]: G6 j+ _例程源码路径：光盘“Demo/OpenCL/OpenCL_performance_test/src”
可执行文件以及测试脚本路径：光盘“Demo/OpenCL/OpenCL_performance_test/bin”
测试使用的图片路径：光盘“Demo/OpenCL/OpenCL_performance_test/data”
测试平台：广州创龙TL5728-IDK开发板
开发板简介：
 基于TI AM5728浮点双DSPC66x+双ARMCortex-A15工业控制及高性能音视频处理器；
 强劲的视频编解码能力，支持1路1080P60或2路720P60或4路720P30视频硬件编解码，支持H.265视频软解码；
9 i' P. p9 [0 q% J6 @% L0 h- \6 x7 X 双核PRU-ICSS工业实时控制子系统，支持EtherCAT、EtherNet/IP、PROFIBUS等工业协议；
 外设接口丰富，GPMC、USB 2.0、UART、SPI、QSPI、I2C、DCAN等工业控制总线和接口，支持高速接口PCle Gen2、USB 3.0、SATA 2.0；
 应用于工业 PC&HMI、工业机器人、机器视觉、 医疗影像、电力自动化等领域。

8 T1 c/ D% v5 x/ D1 V$ c  t
3 t5 e6 M. H" {
# U5 ?* b$ `) M! A2  例程编译
5 y9 m8 x- A: S2 r0 j+ l3 e将光盘资料“Demo/OpenCL/OpenCL_performance_test/src”例程源码拷贝到Ubuntu任意目录，进入该源码目录执行以下命令对源码进行编译：
Host#        cd AM57xx/OpenCL_performance_test/src/
3 g) b. D5 c! V" e# u, eHost#        make SDK_INSTALL_PATH=/home/tronlong/ti-processor-sdk-linux-am57xx-evm-03.01.00.06
# P7 I* b, X5 l7 E4 I9 \/ S3 R
9 h& P2 R+ i2 ~

7 C& r% b% ~1 e& k9 i3 p& t编译完成之后会在当前目录下生成可执行文件canny，将其拷贝到开发板文件系统的“/home/root/”目录下。
; _' c% n, P* {5 \' _将光盘资料“Demo/OpenCL/OpenCL_performance_test”下的bin文件夹以及data文件夹拷贝到开发板文件系统的“/home/root/”目录下。bin文件夹下包含opencl_off.sh和opencl_on.sh测试脚本，data文件夹下是两张大小和格式不同的图片文件TL5728_1080p.jpg和lena.png。

. n: u2 S) [' F# R2 Q
! K: B) h- s+ X* L( |
3  例程测试
2 e' |! |" b5 N. P# U$ u: _/ G$ p' B以下分别从禁用OpenCL功能和使能OpenCL功能来进行对比测试，分别采用data文件夹下的图片TL5728_1080p.jpg和lena.png来测试。
& }3 g( j4 d8 ?5 x* v3.1        禁用OpenCL
执行以下命令进行测试，先禁止运行OpenCL功能，然后清理缓存再进行测试，重复清理缓存和测试的步骤5次，如下图所示：
Target#         source bin/opencl_off.sh
( h: L& I. d' I  l: Y2 k* \7 {. A8 OTarget#         sync; echo 3 >/proc/sys/vm/drop_caches
& R" f; U' _/ T! Y7 I( GTarget#         ./canny data/TL5728_1080p.jpg

+ P' w8 G& {% o6 n5 N' m0 ]! [5 B, D: D
' _6 O$ F' {, g3 k4 \
取以上5次测试结果的平均值：
+ j; v7 J5 ~' h. s+ d        BGR2GRAY tdiff=55.01ms
        Canny tdiff=95.50ms
3.2        使能OpenCL
执行以下命令进行测试，先使能OpenCL功能，然后清理缓存再进行测试，重复清理缓存和测试的步骤6次，如下图所示：
Target#         source bin/opencl_on.sh
Target#         sync; echo 3 >/proc/sys/vm/drop_caches
* O' c" x5 I3 k0 lTarget#         ./canny data/TL5728_1080p.jpg



# j' |9 L6 L  _如上一共测试了6次，每一次测试之前记得先将系统内核缓存清理干净，否则测试结果有误。因为第一次运行时，内核在AM57xx上编译，OpenCL使能时会有额外的延迟，延迟时间大约为几十秒，所以第一次测试结果不作为参考。官方解释如下：
Please note that the first run, with OpenCL on, has additional delay of ~1min, due to kernel compilation on AM57xx. This is constrained to first run only, if "TI_OCL_CACHE_KERNELS" environemnt variable is set.
0 r' Y4 c( @5 S4 b) {) B由以上6次的测试结果，取最后5次测试结果的平均值：
- o& y5 t1 U0 h0 Z        BGR2GRAY tdiff=185.38ms
. @! D  R: _' R/ x( s5 ^        Canny tdiff=17.71ms
6 C" L1 A8 Z0 d8 ^% X- D3.3        测试结果对比
9 o1 P$ L  y2 r同理，按照如上操作步骤在分别禁用OpenCL和使能OpenCL的情况下，计算处理lena.png图片所用的时间，并对5次测试的数据取平均值。对比以上测试结果，如下表所示：
4 C  R, A8 d+ {" @5 k7 R* ]3 c$ M

5 h6 h7 `, D& [& m
; W. R8 J) m/ Y8 l作用率=禁用OpenCL计算处理图像数据所用的时间/使能OpenCL计算处理图像数据所用的时间。
以下是官方的测试数据：
" ]* z0 Y$ J9 E2 ?, c( @3 e3 J
& p& Y4 ^7 K* f

8 ^& D2 [6 m1 m* BBGR2GRAY作用率=0.345
Canny作用率=1.690
从测试结果可以看出来，本次测试与官方测试结论是一致的：OpenCL对BRG2GRAY算法不但没有性能上的提升反而存在着负面的效果；而对Canny算法则有着非常明显的提升效果，与官方的作用率进行对比，本次测试得出的作用率要大于官方提供的作用率数据，这与待测试的图像文件有一定的关系。
官方提供的其他OpenCL内核的测试数据：
链接：http://processors.wiki.ti.com/index.php/OpenCV

) o, f1 H. q* [! {3 Z! S
" L/ p1 Y& d2 m  z2 w

& x- {) ~( ?% a! T8 n; [

4 Q( r4 k5 y: I  L4 d: p5 U  `