V853 YOLOV3 量化使用 int8
-
按照在线文档使用 yolov3 模型转换部署后,发现同样模型对比海思识别效果,V853 比较差。 不过 海思那边是 用的int8,在V853 部署上 量化将 qtype 改为 int8
pegasus quantize --model yolov3.json --model-data yolov3.data --batch-size 1 --device CPU --with-input-meta yolov3_inputmeta.yml --rebuild --model-quantize yolov3.quantize --quantizer asymmetric_affine --qtype int8
这样部署后的模型,使用 SDK 的 yolov3 去识别图片会有问题,是否有其他地方要对应修改。
yolov3 ./yolov3_int8.nb 1.jpg
-
正好看到一份文档,有没有可能是这个原因:
(调参工程师上线 -
尝试了修改了 thresh 跟 nms 。发现 nms 不影响结果,thresh只有是1的情况下,才会什么也没检测到。只要 threshold 不是1,即使是 0.9 也会出满屏的框。 怀疑是不是 部署 int8 的方式不对?想请问下,YOLOV3 量化使用 int8 的话,是否是我这种方式? 还是说 SDK yolov3 后处理需要去修改呢?
-
This post is deleted!
Copyright © 2024 深圳全志在线有限公司 粤ICP备2021084185号 粤公网安备44030502007680号