关于量化时添加 --MLE 参数
-
pegasus quantize --model yolo.json --model-data yuntai.data --MLE --algorithm kl_divergence --batch-size 1 --iterations 1 --divergence-nbins 4096 --device CPU --with-input-meta ./yolo_inputmeta.yml --rebuild --model-quantize yolo.quantize --quantizer asymmetric_affine --qtype uint8
怎么加了--MLE(最小化每层误差)参数后,量化的时候超级久,batch-size为1时差不多要2个小时, 再设大点好几天都没量化完,哪位大神了解嘛?
-
@cruise33 MLE 最好用带GPU的量化,这东西算力需求有点大
-
@whycanservice 量化工具好像没有适配cuda,用不了GPU
Copyright © 2024 深圳全志在线有限公司 粤ICP备2021084185号 粤公网安备44030502007680号