切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
大模型专区
寒武纪® AIDC® MLU370®系列加速卡
MLU200系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
zwb
115
积分
2
赞
14
帖子
75
回复
2
收藏
TA的动态
TA的帖子
TA的回复
yolov5推理错误
我的回复:#6jiapeiyuan回复220 edge的话,在ftp的 /product/IVA/MLU220_edge/IVA-1.6.114/下面。如果是M.2的话,在ftp的 /product/IVA/MLU220_M.2/IVA-1.6.114/ 下面展开请问寒武纪与英码合作的evm220_a2开发板上的sdk如何升级呢
0
yolov5离线模型移植
我的回复:#6hucongkun回复请问生成离线模型的sdk版本是什么,运行离线模型的sdk版本看起来是1.4.0,比较老的版本了。感觉像是两边环境不一致造成的。还有您提供的代码推理时是直接“python detect.py”运行的吗?还有设置其他参数吗?论坛上沟通效率比较低,方便加下微信吗?展开那个detect.py是为了把模型转为离线模型,推理是在开发板上推理的,是另一个代码
0
yolov5离线模型移植
我的回复:#6hucongkun回复请问生成离线模型的sdk版本是什么,运行离线模型的sdk版本看起来是1.4.0,比较老的版本了。感觉像是两边环境不一致造成的。还有您提供的代码推理时是直接“python detect.py”运行的吗?还有设置其他参数吗?论坛上沟通效率比较低,方便加下微信吗?展开您好,我的微信号是zwb5220851
0
yolov5离线模型移植
我的回复:#3hucongkun回复你好,可以把报错截图发出来看一下吗?我好做错误复现这个是在开发板上推理的结果出错,但是模型在主机上推理都没问题
0
yolov5离线模型移植
我的回复:#3hucongkun回复你好,可以把报错截图发出来看一下吗?我好做错误复现
0
yolov5s的转离线问题
我的回复:#12yangzhenkun回复detect_out 已经是跑完模型的在线推理结果了,那个输出是tensor ,后面是生成离线模型,不是推理结果了展开在线推理的时候如果pc机上没有mlu220,也可以进行在线推理吗,因为我这里只有mlu220的开发板
0
yolov5s的转离线问题
我的回复:#10yangzhenkun回复生成离线模型我看你代码里也是对的,融合之后加上ct.save_as_cambricon('net') out=model_trace(img) ct.save_as_cambricon('')model_trace 是trace函数的返回,你代码里写的quantized_net展开按照下面的方法推理仍然错误,输出还是listif __name__ == "__main__": parser = argparse.ArgumentParser() #parser.add_argument('--cfg', type=str, default='yolov5s.yaml', help='model.yaml') parser.add_argument('--device', default='cpu', help='cuda device, i.e. 0 or 0,1,2,3 or cpu') parser.add_argument('--jit', type=bool, help='fusion', default=True) parser.add_argument('--save', type=bool, default=True, help='selection of save *.cambrcion') opt = parser.parse_args() # 获取yolov5网络文件 ct.set_core_version("MLU220") ct.set_device(-1) net = model_quant.RetinexNet(3,3).to(opt.device) quantized_net = torch_mlu.core.mlu_quantize.quantize_dynamic_mlu(net) # 设置为推理模式 quantized_net = quantized_net.eval().float() state_dict = torch.load('net_int8.pt') quantized_net.load_state_dict(state_dict, strict=False) device = ct.mlu_device() quantized_net.to(ct.mlu_device()) # 读取图片 img_mat = cv2.imread('images/000000262682.jpg') # 预处理 img = letter_box(img_mat) # img = torch.randn(1, 3, 512, 512, dtype=torch.float) print(img.shape) img = img.to(ct.mlu_device()) torch.set_grad_enabled(False) model_trace = torch.jit.trace(quantized_net,img,check_trace = False) detect_out = quantized_net(img) # 设置在线融合模式 if opt.jit: if opt.save: ct.save_as_cambricon('net') # torch.set_grad_enabled(False) # ct.set_core_number(4) # trace_input = torch.randn(1, 3, 512, 512, dtype=torch.float) # trace_input = trace_input.to(ct.mlu_device()) # #print(trace_input.to('cpu')) # quantized_net = torch.jit.trace(quantized_net, trace_input, check_trace=False) out = model_trace(img) #print(quantized_net) # 推理 # print(img) # img = img.to(ct.mlu_device()) # print(img.shape) # detect_out = quantized_net(img) if opt.jit: if opt.save: ct.save_as_cambricon('') # 后处理 # anchors = [10, 13, 16, 30, 33, 23,30, 61, 62, 45, 59, 119, 116, 90, 156, 198, 373, 326] print(out) out = out.to(torch.device('cpu')) print(out)
0
yolov5离线模型移植
我的回复:#1jiapeiyuan回复你好,可以把 非80类的 整个工程(包括代码、模型和图片)发给我们吗,我们本地复现一下yolo_quant_offline.zip
0
yolov5s的转离线问题
我的回复:#8yangzhenkun回复知道问题了,返回list 是因为调用 model_trace = torch.jit.trace(quantized_net,img,check_trace=False)这个函数的问题,这个函数返回值不是quantized_net ,,所以后面跑网络模型也就错了,测试过程中也发现一些其他问题,一起修复了,你参考一下net = model_quant.RetinexNet(3,3).to(opt.device) quantized_net = torch_mlu.core.mlu_quantize.quantize_dynamic_mlu(net) quantized_net = quantized_net.eval().float() state_dict = torch.load('net_int8.pt') quantized_net.load_state_dict((state_dict), strict=False) #quantized_net = quantized_net.eval().float() device = ct.mlu_device() ct.set_core_version("MLU270") ct.set_core_number(4) quantized_net = quantized_net.to(device) img_mat = cv2.imread('images/image.jpg') img = letter_box(img_mat) # img = torch.randn(1, 3, 512, 512, dtype=torch.float) print(img.shape) img = img.to(ct.mlu_device()) torch.set_grad_enabled(False) model_trace = torch.jit.trace(quantized_net,img,check_trace=False) detect_out = quantized_net(img)展开那请问我想生成能在mlu220边缘设备上运行的离线模型需要什么额外操作呢
0
yolov5s的转离线问题
我的回复:#6yangzhenkun回复方便的话把net_int.pth权重文件单独发一下?这个文件是把两个文件写在一起的,我分开之后load权重,会出错展开net.zip
0
上一页
1
2
3
下一页
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2025 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭