切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
MLU370系列AI加速卡
MLU270系列AI加速卡
MLU220系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
htujun
91
积分
1
赞
6
帖子
90
回复
2
收藏
TA的动态
TA的帖子
TA的回复
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:导致框不准是因为anchors更新了,而不是coco的anchors。
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#38lanhao回复麻烦给我们相关的同事提供一下训练好的权重,cpu,mlu运行和量化脚本,相关的模型文件,以及推理测试图片,谢谢展开好的
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#36lanhao回复嗯,我这边复现一下看看嗯嗯,非常感谢
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#32lanhao回复嗯嗯,看下int16和int8分通道量化的精度吧我个人认为:训练集的图片中的检测目标尺寸分布跨度太大,导致量化精度不稳定,因为这个api量化原理不清楚,所以也清楚那里出了问题;
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#32lanhao回复嗯嗯,看下int16和int8分通道量化的精度吧我个人认为:训练集的图片中的检测目标尺寸分布差别太大,导致量化精度不稳定,因为这个api量化原理不清楚,所以也清楚那里出了问题;
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#32lanhao回复嗯嗯,看下int16和int8分通道量化的精度吧我分别测试了int16、int8分通道量化(\'per_channel\': True),和之前int8量化(\'per_channel\': Flase)精度差不多,依然存在量化前后的精度差别很大的问题;
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#28lanhao回复对不起大目标、中、小目标、极小目标理解成图片大小了,您看一下量化成int16和分通道量化int8的效果,量化时不用太多图片,4到10张即可展开不好意思,我的描述不清,我训练图片尺寸是大小不一的,但是我训练需要检测的图片中的目标尺寸的分布是大目标、中、小目标、极小目标;
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#28lanhao回复对不起大目标、中、小目标、极小目标理解成图片大小了,您看一下量化成int16和分通道量化int8的效果,量化时不用太多图片,4到10张即可展开对不起大目标、中、小目标、极小目标理解成图片大小了,您看一下量化成int16和分通道量化int8的效果,量化时不用太多图片,4到10张即可 ;回到:不对的,这里大目标、中、小目标、极小目标是指图片需要检测的目标尺寸大小;
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#25lanhao回复选的100张里包含了大目标、中、小目标、极小目标这些图片吗?有没有试过int16的精度?另外在int8量化时有没有试过开分通道量化?展开选的100张里包含了大目标、中、小目标、极小目标这些图片吗?补充回答:我用全部训练数据集(尺寸:大目标、中、小目标、极小目标)进行推理,几万多张,即量化前后的精度差别依然很大,花了几个小时推理;
1
yolov5移植,yolov5 int8量化后,再逐层或者融合,输出目标框变得不准,目标框变大。
我的回复:#25lanhao回复选的100张里包含了大目标、中、小目标、极小目标这些图片吗?有没有试过int16的精度?另外在int8量化时有没有试过开分通道量化?展开选的100张里包含了大目标、中、小目标、极小目标这些图片吗?回答:随即选取的,所以应该没有包含全部尺寸; 有没有试过int16的精度?另外在int8量化时有没有试过开分通道量化? 回答:都没有试过,一会测试下;
1
上一页
1
2
3
4
5
6
7
下一页
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭