×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。 已解决 htujun2022-01-11 19:37:40 回复 40 查看 技术答疑 使用求助 经验交流
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
分享到:

在寒武纪mlu270平台上生成yolov5模型离线文件,先进行int8量化后,后逐层或者融合,输出的目标框变得不准,目标框变大,且出现很多重复的框,若有碰到类似问题,有劳各位才能知士帮忙解答。


量化主要代码:

global quantized_model

if opt.cfg == 'qua':
    qconfig = {'iteration':2,'firstconv':False}
    quantized_model = mlu_quantize.quantize_dynamic_mlu(model, qconfig, dtype='int8', gen_quant=True)

...

if opt.cfg == 'qua':
    pred = quantized_model(img)[0]
    torch.save(quantized_model.state_dict(), 'yolov5s_int8.pt')
    
本人的提出问题:

 问题1:qconfig量化参数iteration是指需要传入量化图片个数吗,量化方式是一张张传入量化还是全部?

 问题2:当训练样本的检测目标尺寸存在较大差异时,in8量化后是否使检测精度下降很多?



                           第一张:cpu推理;


                            第二张:int8量化后,再逐层或者融合;


以上问题,个人认为原因:训练集的目标尺寸存在较大差异,int8量化后,精度降低很多,应该是int8量化这个过程出来问题,但是具体那里出的问题未知。

版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭