V853 YOLOV3 量化使用 int8

[Rain_tk]

按照在线文档使用 yolov3 模型转换部署后，发现同样模型对比海思识别效果，V853 比较差。 不过 海思那边是 用的int8，在V853 部署上 量化将 qtype 改为 int8

pegasus quantize --model yolov3.json --model-data yolov3.data --batch-size 1 --device CPU --with-input-meta yolov3_inputmeta.yml --rebuild --model-quantize yolov3.quantize --quantizer asymmetric_affine --qtype int8

这样部署后的模型，使用 SDK 的 yolov3 去识别图片会有问题，是否有其他地方要对应修改。

yolov3 ./yolov3_int8.nb 1.jpg

[xiaowenge]

正好看到一份文档，有没有可能是这个原因：

（调参工程师上线

[Rain_tk]

尝试了修改了 thresh 跟 nms 。发现 nms 不影响结果，thresh只有是1的情况下，才会什么也没检测到。只要 threshold 不是1，即使是 0.9 也会出满屏的框。 怀疑是不是 部署 int8 的方式不对？想请问下，YOLOV3 量化使用 int8 的话，是否是我这种方式？ 还是说 SDK yolov3 后处理需要去修改呢？

[feidedao]

This post is deleted!