导致框不准是因为anchors更新了,而不是coco的anchors。
麻烦给我们相关的同事提供一下训练好的权重,cpu,mlu运行和量化脚本,相关的模型文件,以及推理测试图片,谢谢
嗯嗯,非常感谢
嗯,我这边复现一下看看
我个人认为:训练集的图片中的检测目标尺寸分布跨度太大,导致量化精度不稳定,因为这个api量化原理不清楚,所以也清楚那里出了问题;
嗯嗯,看下int16和int8分通道量化的精度吧
不好意思,我的描述不清,我训练图片尺寸是大小不一的,但是我训练需要检测的图片中的目标尺寸的分布是大目标、中、小目标、极小目标;
对不起大目标、中、小目标、极小目标理解成图片大小了,您看一下量化成int16和分通道量化int8的效果,量化时不用太多图片,4到10张即可
选的100张里包含了大目标、中、小目标、极小目标这些图片吗?有没有试过int16的精度?另外在int8量化时有没有试过开分通道量化?
一般来说我们都是需要先reshape成统一的size的 ;回答:这个是需要把量化数据reshape成统一尺寸图片,尺寸是怎么的呢?这里不太懂,我已经把letterbox(...,auto=False),把推理图片固定成640*640;
量化时用的数据集包含了大目标、中、小目标、极小目标吗?一般来说我们都是需要先reshape成统一的size的
量化时用的数据集包含了大目标、中、小目标、极小目标吗? 回答:我之前用全部训练数据集(尺寸:大目标、中、小目标、极小目标)进行推理,即是int8量化数据,量化前后的精度差别依然很大,花了几个小时推理,后来在训练集随即选取100张进行量化,量化前后的精度也是差别很大;
你好,cnml 升级了cnml_7.10.2-2,cnplugin升级了cnplugin_1.12.4-2,设置了core number=1,问题依然存在,int8量化前后的精度差别很大;我经过很多测试,在训练数据集中加入极小目标,按寒武纪yolov5移植教程,一定会出现int8量化前后误差大的问题;
1、查看一下cnplugin版本是不是低于1.12.4 2、使用core number=1,看下精度
使用core number=1,看下精度,我需要测试下给你回复;
请登录后评论