V853 关于int8量化方式及其仿真打印的各层结果
-
问题起因:
已将YOLO模型通过uint8的量化方式,成功部署到板子上,但实测的精度不太理想(目标框精度还行,就是自信度差了点),就尝试用perchannel int8的量化方式,但跑出来的检测结果都是乱的(目标框混乱),就想通过IDE仿真,把中间各层的结果打印出来,与CPU的各层结果相比对,看问题出在哪层后续debug及问题:
-
用int8的工程跑仿真,把 VNN_APP_DEBUG 设为TRUE,报了些红色的警告,请问这些警告是什么意思?而uint8的不会报这个,如下图:
-
int8仿真生成的中间结果文件,内容基本为全0,个别层结果不为0,是配置问题、或是量化指令不对、还是什么问题导致呢?如下图:
-
比较uint8的仿真中间层结果,可以看出与CPU的结果数值是成比例的,但数值好像大了个倍数?而且为啥仿真结果的值都是同一个数?如下图:
以上是仿真过程中遇到的一些问题,希望了解的大神们能指导一下!
-
Copyright © 2024 深圳全志在线有限公司 粤ICP备2021084185号 粤公网安备44030502007680号