切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
MLU370系列AI加速卡
MLU270系列AI加速卡
MLU220系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
liyong
30
积分
0
赞
2
帖子
10
回复
0
收藏
TA的动态
TA的帖子
TA的回复
MLU220使用4核推理时,输出结果不正确
我的回复:#2zhaodeming回复MLU220和MLU270生成离线模型的代码基本一致,只需要在模型移植时,修改ct.set_core_version()中的板卡类型即可展开单类别模型单核模式可以推理,多核输出结果不正确
0
MLU220使用4核推理时,输出结果不正确
我的回复:#2zhaodeming回复MLU220和MLU270生成离线模型的代码基本一致,只需要在模型移植时,修改ct.set_core_version()中的板卡类型即可展开以上所有的问题都解决了,现在新的问题是,多类别模型可以生成离线模型,可以正常推理,但是单类别模型就无法正常推理,但是可以导出离线模型,离线模型的量化系数要么是0,要么是无穷大的一个数字,这又是什么原因呢?是单类别模型量化时出现问题了吗?
0
mlu270上yolov5s在线推理无输出任何结果
我的回复:#4zhaodeming回复您好,理论上生成的离线模型大小应该是原始模型的1/3至1/2大小,建议先检查下在线推理结果是否正确。另外,量化时采用一张图片的情况下也是可以的,一般采用一张到几张不等展开在线推理结果是正确的,而且我是使用online/yolov5下提供的代码以及模型
0
mlu270上yolov5s在线推理无输出任何结果
我的回复:#1cambriconMa回复先逐步确认一下,cpu结果、量化后的模型结果和在线逐层是否有问题还想请问一下:1.yolov5s原始权重30MB,生成离线模型有101.5MB,为什么离线模型会大这么多呢?2.量化一般采用多少张图像量化比较好呢?为什么我采用一张图像量化的结果也很不错?
0
mlu270上yolov5s在线推理无输出任何结果
我的回复:#1cambriconMa回复先逐步确认一下,cpu结果、量化后的模型结果和在线逐层是否有问题问题已经解决了,官方保存的yolov5-3.1的模型需要重新保存一次:torch.save(model.state_dict(),model_cp,_use_new_zipfile_serialization=False)
0
在270上运行yolov5的逐层模式,输出结果没问题,但当运行融合模式时,就会检测不到目标,这可能是什么原因?
我的回复:#3ygest回复谢谢指导,第一个问题完美解决!对于第二个问题,是不是可以理解为可以进行推理时我可以自由选择整型或浮点型的计算方式(在不考虑计算效率时),还是此时的推理一定是在量化模式下?展开兄弟,你训练模型的pytorch版本与mlu270上的pytorch版本一致吗?我设置成单核仍然不能解决这个问题,我训练用的是pytorch1.4,mlu270上使用的是1.3,还有就是你的训练模型模型在保存时是直接保存的吗?还是做过什么更改吗?谢谢
0
在270上运行yolov5的逐层模式,输出结果没问题,但当运行融合模式时,就会检测不到目标,这可能是什么原因?
我的回复:#2tanhaojue回复您好,对于您的问题有以下两点说明: 1.多核的时候确实存在这个问题,正在解决中。可以设置core_number为1,单核运行融合模型是没问题的。 2.打印yolov5s_int16.pt,会发现只是模型的参数里增加了两个量化参数scale,quantized_mode。而实际上权重还是float,在推理时才会对其进行量化操作。展开你好,我把MLU270设置的是单核,但是仍然是没有东西输出,是否跟pytorch版本有关系吗?我yolov5s训练使用的pytorch1.4,neuware的环境是pytorch1.3,
0
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭