如何基于AM57x测试OpenCL的加速性能？

chuanglong

1  实验说明
3 }+ l. M: C/ u* ?) R! ]本例程测试功能：读取指定的图像数据，然后对图像进行灰度转换和Canny算法处理，计算处理过程所耗的时间，并将处理后的图像保存到当前目录下。
* g" l* m# k8 o1 J本例程主要是测试OpenCL是否对这两种算法有优化效果，分别从禁用OpenCL和使能OpenCL两种情况来计算处理图像数据所用的时间，将测试的结果与官方提供的测试结果进行对比和验证。
例程源码路径：光盘“Demo/OpenCL/OpenCL_performance_test/src”
可执行文件以及测试脚本路径：光盘“Demo/OpenCL/OpenCL_performance_test/bin”
测试使用的图片路径：光盘“Demo/OpenCL/OpenCL_performance_test/data”
0 q) O: J5 U4 }- M' x测试平台：广州创龙TL5728-IDK开发板
. Q0 B5 [# V, B) L开发板简介：
 基于TI AM5728浮点双DSPC66x+双ARMCortex-A15工业控制及高性能音视频处理器；
- P* w1 X8 O: m; e3 m+ B 强劲的视频编解码能力，支持1路1080P60或2路720P60或4路720P30视频硬件编解码，支持H.265视频软解码；
, F5 r( H3 r- r8 r 双核PRU-ICSS工业实时控制子系统，支持EtherCAT、EtherNet/IP、PROFIBUS等工业协议；
 外设接口丰富，GPMC、USB 2.0、UART、SPI、QSPI、I2C、DCAN等工业控制总线和接口，支持高速接口PCle Gen2、USB 3.0、SATA 2.0；
 应用于工业 PC&HMI、工业机器人、机器视觉、 医疗影像、电力自动化等领域。

+ D% j1 ]! [; D% f
6 {5 ^6 d2 n9 l6 P$ M6 O3 \4 `
" v3 p2 Y2 s* M, {1 n2  例程编译
将光盘资料“Demo/OpenCL/OpenCL_performance_test/src”例程源码拷贝到Ubuntu任意目录，进入该源码目录执行以下命令对源码进行编译：
9 w/ K1 N) B% [8 \9 o1 z! WHost#        cd AM57xx/OpenCL_performance_test/src/
5 i/ O7 P8 f, r2 x6 z; oHost#        make SDK_INSTALL_PATH=/home/tronlong/ti-processor-sdk-linux-am57xx-evm-03.01.00.06
% c9 v9 }' t  ~; ~, }5 M; r
! d9 B' P) ^! \' _
4 h0 x) c2 A0 g- N) Q" t
编译完成之后会在当前目录下生成可执行文件canny，将其拷贝到开发板文件系统的“/home/root/”目录下。
将光盘资料“Demo/OpenCL/OpenCL_performance_test”下的bin文件夹以及data文件夹拷贝到开发板文件系统的“/home/root/”目录下。bin文件夹下包含opencl_off.sh和opencl_on.sh测试脚本，data文件夹下是两张大小和格式不同的图片文件TL5728_1080p.jpg和lena.png。


  C) ?. \, {- h# l
3  例程测试
以下分别从禁用OpenCL功能和使能OpenCL功能来进行对比测试，分别采用data文件夹下的图片TL5728_1080p.jpg和lena.png来测试。
3.1        禁用OpenCL
执行以下命令进行测试，先禁止运行OpenCL功能，然后清理缓存再进行测试，重复清理缓存和测试的步骤5次，如下图所示：
Target#         source bin/opencl_off.sh
# O( t% r1 r& q1 h( xTarget#         sync; echo 3 >/proc/sys/vm/drop_caches
6 a; {# c* y$ @% I, l. z- ?Target#         ./canny data/TL5728_1080p.jpg
0 u* p/ y( P" [5 z+ V
3 c( A0 F7 L- K4 ?- X9 M
+ |8 c( O3 Y* i7 t' E1 D
取以上5次测试结果的平均值：
8 I% r  d. @4 w( d! o$ D, W8 ^        BGR2GRAY tdiff=55.01ms
( E! B, l( X7 z  M        Canny tdiff=95.50ms
7 K& q  d0 {! i* o" X! T3.2        使能OpenCL
1 l- B2 _7 k% p* Y" r* V3 M% o执行以下命令进行测试，先使能OpenCL功能，然后清理缓存再进行测试，重复清理缓存和测试的步骤6次，如下图所示：
Target#         source bin/opencl_on.sh
Target#         sync; echo 3 >/proc/sys/vm/drop_caches
Target#         ./canny data/TL5728_1080p.jpg


4 |9 V" T( M. x
" ~4 \# z7 x* N6 ]2 ^% ?如上一共测试了6次，每一次测试之前记得先将系统内核缓存清理干净，否则测试结果有误。因为第一次运行时，内核在AM57xx上编译，OpenCL使能时会有额外的延迟，延迟时间大约为几十秒，所以第一次测试结果不作为参考。官方解释如下：
+ n4 v8 r+ ?: f8 d2 n3 n* dPlease note that the first run, with OpenCL on, has additional delay of ~1min, due to kernel compilation on AM57xx. This is constrained to first run only, if "TI_OCL_CACHE_KERNELS" environemnt variable is set.
7 |$ v% p6 z: a- `5 W* `由以上6次的测试结果，取最后5次测试结果的平均值：
, \' w4 [* `$ W( b9 M* z        BGR2GRAY tdiff=185.38ms
        Canny tdiff=17.71ms
3.3        测试结果对比
同理，按照如上操作步骤在分别禁用OpenCL和使能OpenCL的情况下，计算处理lena.png图片所用的时间，并对5次测试的数据取平均值。对比以上测试结果，如下表所示：
7 w  O7 G+ `* C9 H
# M8 g0 l' A8 J/ h4 N! W. n
* R# A& v1 F7 {: b' \8 w8 H
  S# |  I  `: q4 v2 {作用率=禁用OpenCL计算处理图像数据所用的时间/使能OpenCL计算处理图像数据所用的时间。
以下是官方的测试数据：



/ x) c1 ]" ?- E/ f/ z# e/ M. K4 ]BGR2GRAY作用率=0.345
Canny作用率=1.690
9 B: A. T: ]& X$ X( d0 V2 @6 Q从测试结果可以看出来，本次测试与官方测试结论是一致的：OpenCL对BRG2GRAY算法不但没有性能上的提升反而存在着负面的效果；而对Canny算法则有着非常明显的提升效果，与官方的作用率进行对比，本次测试得出的作用率要大于官方提供的作用率数据，这与待测试的图像文件有一定的关系。
官方提供的其他OpenCL内核的测试数据：
链接：http://processors.wiki.ti.com/index.php/OpenCV

6 ^: M: o2 m) {+ W: ?
2 E: X# q8 u( v0 `' h( N0 R

5 r5 s) j; q* i. c- q9 F
! `( I+ s7 Z- L  h$ V0 S
- I0 O$ x7 @4 P, M4 @1 \! h

* w& k% o1 q6 P6 M