切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
MLU370系列AI加速卡
MLU270系列AI加速卡
MLU220系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
htujun
91
积分
1
赞
6
帖子
90
回复
2
收藏
TA的动态
TA的帖子
TA的回复
yolov5 量化参数加了firstconv = True 的量化后的离线模型,输入图片加载报错
我的回复:#1HelloAI回复开启firstconv后,输入数据类型为UINT8,在推理是不需要做mean/std,输入的Layout为RGBA、BGRA、ARGB、ABGR几种,您生成模型的时候开启了firstconv,那么在启动cnstream的时候,请确认您的json配置文件关于inference模块的preprocess部分的配置是否与模型的layout的datatype一致展开
0
yolov5 量化参数加了firstconv = True 的量化后的离线模型,输入图片加载报错
我的回复:#1HelloAI回复开启firstconv后,输入数据类型为UINT8,在推理是不需要做mean/std,输入的Layout为RGBA、BGRA、ARGB、ABGR几种,您生成模型的时候开启了firstconv,那么在启动cnstream的时候,请确认您的json配置文件关于inference模块的preprocess部分的配置是否与模型的layout的datatype一致展开你好,我可以这样设置吗,摄像头获取图片输入的datatype:CV_8UC4,json配置文件layout的datatype:BGRA;
0
yolov5离线模型转化 mlu逐层 的torch.ops.torch_mlu.yolov5_detection_output这类在那个文件夹里
我的回复:#4zhangyanting回复您好,这种情况您需要自研算子,我们提供的yolov5_detection_output算子是只能接受3个output的。展开是的,是需要BANG C来编写,请问有相关教程吗
0
yolov5离线模型转化 mlu逐层 的torch.ops.torch_mlu.yolov5_detection_output这类在那个文件夹里
我的回复:#1zhangyanting回复您好,yolov5的离线模型生成请按照教程(https://developer.cambricon.com/index/curriculum/expdetails/id/13/classid/8.html )执行,并使用我们的官方镜像(Cambricon AI Repo)展开我不是转离线文件出错,而是训练模型加个检测头,与你们yolov5_detection_output算子输出的形参对应不上报错,需要改动相应算子。
0
yolov5离线模型转化 mlu逐层 的torch.ops.torch_mlu.yolov5_detection_output这类在那个文件夹里
我的回复:#1zhangyanting回复您好,yolov5的离线模型生成请按照教程(https://developer.cambricon.com/index/curriculum/expdetails/id/13/classid/8.html )执行,并使用我们的官方镜像(Cambricon AI Repo)展开你好,谢谢,回复,我是相改yolov5_detection_output 算子,再输出多加一个检测头,一共四个输出:output[0],output[1],output[2],output[3],请问如何改动,有相应的教程吗
0
【经验总结】Yolov5移植流程指南
我的回复:yolov5_detection_output算子,你知道再那里吗,我想修改相应yolov5_detection_output。
10
yolov5 int8量化后,再逐层,精度下降明显;
我的回复:#5QiuJiang回复从您的截图看,小目标的确很多,在经过网络的下采样之后,小目标的特征相对整张图的特征来说会更加不明显,在int8量化之后进一步降低了小目标特征的精度,所以出现了int8量化之后容易漏检的情况。目前除了int16暂时也没有更好的方法可以提高精度,寒武纪提供的量化方式里面还包含了eqnm量化方法,不敢保证对这种情况有用,但您有时间的话也可以尝试一下(文档:https://www.cambricon.com/docs/pytorch/pytorch_11_tools/Pytorch_tools.html?highlight=eqnm#id3 搜索关键词 eqnm ),他是一种开源的方法,可以网上了解其原理。展开好的,非常感谢。
0
yolov5 int8量化后,再逐层,精度下降明显;
我的回复:#2QiuJiang回复你好,针对小目标较多的场景,int8量化确实会带来一些比较明显的精度误差,这种情况建议使用int16,同时在量化时多使用几张真实图片去做量化(例如20张)展开目前的解决办法只能改变使用int16的离线模型进行推理吗,因为测试过了int16离线推理在mlu220上出现了负载过高掉帧现象,请问我在这种情况下,还有什么方法提高int8量化精度。
0
yolov5 int8量化后,再逐层,精度下降明显;
我的回复:#2QiuJiang回复你好,针对小目标较多的场景,int8量化确实会带来一些比较明显的精度误差,这种情况建议使用int16,同时在量化时多使用几张真实图片去做量化(例如20张)展开你好,谢谢你的答复,请问下这种情况是训练样本含有太多极小、小目标所导致的吗,我的理解是模型的参数偏向极小、小目标,且已经出现极端倾向性,导致int8后出现的参数出现较大跳跃,出现一定偏差导致,个人认为是这样,您认为具体原因是什么。
0
yolov5 int8量化后,再逐层,精度下降明显;
我的回复:对寒武纪的量化了解大佬,麻烦帮帮忙;
0
上一页
1
2
3
4
5
6
7
下一页
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭