benchmark issue about bolt HOT 8 OPEN

可尝试使用taskset绑定测试程序到CPU大核调度，对小模型CPU调度和驱动开销无法被GPU kernel耗时掩盖，影响会比较明显

from bolt.

@yunfanxiao 我也是在小米11上，测试了高通官方最新的adreno_opencl_ml_sdk_v2.1.zip，小米11上调用clQueryMLInterfaceVersionsQCOM接口会返回CL_OUT_OF_HOST_MEMORY的报错，但是高通官方说660以上是支持cl_qcom_ml_ops扩展的，请教一下bolt是怎么测试出adreno_opencl_ml_sdk的性能的

from bolt.

bolt目前没有集成qcom的ml sdk，这个问题可以去qcom官方问下

from bolt.

嗷嗷，我也是看到知乎上bolt的一个大佬提及qcom的adreno_opencl_ml_sdk实测性能可以达到1.5T，所以想请教怎么解决

from bolt.

嗷嗷，我也是看到知乎上bolt的一个大佬提及qcom的adreno_opencl_ml_sdk实测性能可以达到1.5T，所以想请教怎么解决

qcom adreno clml sdk接口虽然集成在libOpenCL.so，但是它依赖的vendor库默认没有开放权限给第三方app，第三方开发者调用时会返回-6，相应的，logcat中也会发现selinux audit日志。如果有root过的888或者8Gen1设备，可以setenforce 0测试。

from bolt.

@chillingche 多谢，得找个root的设备试试；权限问题的话是手机厂商没有开放是吧，虽然高通开放了

from bolt.

可尝试使用taskset绑定测试程序到CPU大核调度，对小模型CPU调度和驱动开销无法被GPU kernel耗时掩盖，影响会比较明显

@yunfanxiao 在小米11 888上进行cpu绑定尝试 taskset -a 70 ./benchmark -a GPU -w 10 -l 10 -m ResNet-50_f16.bolt 这样平均耗时从30ms 降低到27ms，可是这与文章里的 25ms还有一定的差距，请问还有什么是需要注意的

from bolt.

@peyer 我也遇到了一样的问题，请问下你root手机了吗？这个问题解决了吗

from bolt.