有V85x量化int16精度比较好的参数组合么
-
如题
我这有份参数精度一般的
pegasus quantize --model 'xxx.json' --model-data 'xxx.data' --model-quantize 'xxx.quantize' --batch-size 1 --iterations 216 --with-input-meta 'xxx_inputmeta.yml' --quantizer 'dynamic_fixed_point' --qtype 'int16' --rebuild --algorithm 'kl_divergence' --divergence-first-quantize-bits 4 --compute-entropy
Copyright © 2024 深圳全志在线有限公司 粤ICP备2021084185号 粤公网安备44030502007680号