×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

yolov5 int8量化后,再逐层,精度下降明显; htujun2022-07-04 16:40:03 回复 5 查看 使用求助
yolov5 int8量化后,再逐层,精度下降明显;
分享到:

yolov5 int8量化后,再逐层和cpu推理的精度差距较大,怀疑是量化精度损失过高,因为检测都是小目标, anchors_list = [4,3,7,6,15,11,37,14,26,22,54,38,244,121,593,174,519,301],是否是因为小目标过多导致的,还是别的问题导致的,请求大家帮忙,谢谢;

第一,cpu的fp16推理,如下图;

01.jpeg

第二、int8的逐层推理,如下图;

01.jpeg

第三、int16的逐层推理,如下图;

01.jpeg

第四、dump工具测试cpu推理和int8的逐层推理的COS对比,如下图;

int8_2.png

第四、dump工具测试cpu推理和int16的逐层推理的COS对比,如下图;

int16_2.png

版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭