打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
yolov5 int8量化后,再逐层和cpu推理的精度差距较大,怀疑是量化精度损失过高,因为检测都是小目标, anchors_list = [4,3,7,6,15,11,37,14,26,22,54,38,244,121,593,174,519,301],是否是因为小目标过多导致的,还是别的问题导致的,请求大家帮忙,谢谢;
第一,cpu的fp16推理,如下图;
第二、int8的逐层推理,如下图;
第三、int16的逐层推理,如下图;
第四、dump工具测试cpu推理和int8的逐层推理的COS对比,如下图;
第四、dump工具测试cpu推理和int16的逐层推理的COS对比,如下图;
热门帖子
精华帖子