Navigation

    全志在线开发者论坛

    • Register
    • Login
    • Search
    • Categories
    • Tags
    • 在线文档
    • 社区主页

    V853 关于int8量化方式及其仿真打印的各层结果

    V Series
    1
    1
    891
    Loading More Posts
    • Oldest to Newest
    • Newest to Oldest
    • Most Votes
    Reply
    • Reply as topic
    Log in to reply
    This topic has been deleted. Only users with topic management privileges can see it.
    • C
      cruise33 LV 6 last edited by

      问题起因:
      已将YOLO模型通过uint8的量化方式,成功部署到板子上,但实测的精度不太理想(目标框精度还行,就是自信度差了点),就尝试用perchannel int8的量化方式,但跑出来的检测结果都是乱的(目标框混乱),就想通过IDE仿真,把中间各层的结果打印出来,与CPU的各层结果相比对,看问题出在哪层

      后续debug及问题:

      1. 用int8的工程跑仿真,把 VNN_APP_DEBUG 设为TRUE,报了些红色的警告,请问这些警告是什么意思?而uint8的不会报这个,如下图:
        cc713e0d-b5e7-4d01-a391-7dad5044eba7-image.png

      2. int8仿真生成的中间结果文件,内容基本为全0,个别层结果不为0,是配置问题、或是量化指令不对、还是什么问题导致呢?如下图:
        36313b6d-4fad-4c06-855a-c56f20661df6-image.png
        5bb99fb6-6845-4837-ae3e-a50b0b36fc34-image.png

      3. 比较uint8的仿真中间层结果,可以看出与CPU的结果数值是成比例的,但数值好像大了个倍数?而且为啥仿真结果的值都是同一个数?如下图:
        9142ae22-a452-437f-9866-dda09d300ecb-image.png

      以上是仿真过程中遇到的一些问题,希望了解的大神们能指导一下!

      1 Reply Last reply Reply Quote Share 0
      • 1 / 1
      • First post
        Last post

      Copyright © 2024 深圳全志在线有限公司 粤ICP备2021084185号 粤公网安备44030502007680号

      行为准则 | 用户协议 | 隐私权政策