LV.1

zwb

115积分2赞

14 帖子 71 回复 2 收藏

TA的动态

TA的帖子

TA的回复

yolov5推理错误 我的回复：#6jiapeiyuan回复220 edge的话，在ftp的 /product/IVA/MLU220_edge/IVA-1.6.114/下面。如果是M.2的话，在ftp的 /product/IVA/MLU220_M.2/IVA-1.6.114/ 下面展开请问寒武纪与英码合作的evm220_a2开发板上的sdk如何升级呢 0

yolov5离线模型移植 我的回复：#6hucongkun回复请问生成离线模型的sdk版本是什么，运行离线模型的sdk版本看起来是1.4.0，比较老的版本了。感觉像是两边环境不一致造成的。还有您提供的代码推理时是直接“python detect.py”运行的吗？还有设置其他参数吗？论坛上沟通效率比较低，方便加下微信吗？展开那个detect.py是为了把模型转为离线模型，推理是在开发板上推理的，是另一个代码 0

yolov5离线模型移植 我的回复：#6hucongkun回复请问生成离线模型的sdk版本是什么，运行离线模型的sdk版本看起来是1.4.0，比较老的版本了。感觉像是两边环境不一致造成的。还有您提供的代码推理时是直接“python detect.py”运行的吗？还有设置其他参数吗？论坛上沟通效率比较低，方便加下微信吗？展开您好，我的微信号是zwb5220851 0

yolov5离线模型移植 我的回复：#3hucongkun回复你好，可以把报错截图发出来看一下吗？我好做错误复现这个是在开发板上推理的结果出错，但是模型在主机上推理都没问题 0

yolov5离线模型移植 我的回复：#3hucongkun回复你好，可以把报错截图发出来看一下吗？我好做错误复现 0

yolov5s的转离线问题 我的回复：#12yangzhenkun回复detect_out 已经是跑完模型的在线推理结果了，那个输出是tensor ，后面是生成离线模型，不是推理结果了展开在线推理的时候如果pc机上没有mlu220，也可以进行在线推理吗，因为我这里只有mlu220的开发板 0

yolov5s的转离线问题 我的回复：#10yangzhenkun回复生成离线模型我看你代码里也是对的，融合之后加上ct.save_as_cambricon('net') out=model_trace(img) ct.save_as_cambricon('')model_trace 是trace函数的返回，你代码里写的quantized_net展开按照下面的方法推理仍然错误,输出还是listif __name__ == "__main__": parser = argparse.ArgumentParser() #parser.add_argument('--cfg', type=str, default='yolov5s.yaml', help='model.yaml') parser.add_argument('--device', default='cpu', help='cuda device, i.e. 0 or 0,1,2,3 or cpu') parser.add_argument('--jit', type=bool, help='fusion', default=True) parser.add_argument('--save', type=bool, default=True, help='selection of save *.cambrcion') opt = parser.parse_args() # 获取yolov5网络文件 ct.set_core_version("MLU220") ct.set_device(-1) net = model_quant.RetinexNet(3,3).to(opt.device) quantized_net = torch_mlu.core.mlu_quantize.quantize_dynamic_mlu(net) # 设置为推理模式 quantized_net = quantized_net.eval().float() state_dict = torch.load('net_int8.pt') quantized_net.load_state_dict(state_dict, strict=False) device = ct.mlu_device() quantized_net.to(ct.mlu_device()) # 读取图片 img_mat = cv2.imread('images/000000262682.jpg') # 预处理 img = letter_box(img_mat) # img = torch.randn(1, 3, 512, 512, dtype=torch.float) print(img.shape) img = img.to(ct.mlu_device()) torch.set_grad_enabled(False) model_trace = torch.jit.trace(quantized_net,img,check_trace = False) detect_out = quantized_net(img) # 设置在线融合模式 if opt.jit: if opt.save: ct.save_as_cambricon('net') # torch.set_grad_enabled(False) # ct.set_core_number(4) # trace_input = torch.randn(1, 3, 512, 512, dtype=torch.float) # trace_input = trace_input.to(ct.mlu_device()) # #print(trace_input.to('cpu')) # quantized_net = torch.jit.trace(quantized_net, trace_input, check_trace=False) out = model_trace(img) #print(quantized_net) # 推理 # print(img) # img = img.to(ct.mlu_device()) # print(img.shape) # detect_out = quantized_net(img) if opt.jit: if opt.save: ct.save_as_cambricon('') # 后处理 # anchors = [10, 13, 16, 30, 33, 23,30, 61, 62, 45, 59, 119, 116, 90, 156, 198, 373, 326] print(out) out = out.to(torch.device('cpu')) print(out) 0

yolov5离线模型移植 我的回复：#1jiapeiyuan回复你好，可以把非80类的整个工程（包括代码、模型和图片）发给我们吗，我们本地复现一下yolo_quant_offline.zip 0

yolov5s的转离线问题 我的回复：#8yangzhenkun回复知道问题了，返回list 是因为调用 model_trace = torch.jit.trace(quantized_net,img,check_trace=False)这个函数的问题，这个函数返回值不是quantized_net ,，所以后面跑网络模型也就错了，测试过程中也发现一些其他问题，一起修复了，你参考一下net = model_quant.RetinexNet(3,3).to(opt.device) quantized_net = torch_mlu.core.mlu_quantize.quantize_dynamic_mlu(net) quantized_net = quantized_net.eval().float() state_dict = torch.load('net_int8.pt') quantized_net.load_state_dict((state_dict), strict=False) #quantized_net = quantized_net.eval().float() device = ct.mlu_device() ct.set_core_version("MLU270") ct.set_core_number(4) quantized_net = quantized_net.to(device) img_mat = cv2.imread('images/image.jpg') img = letter_box(img_mat) # img = torch.randn(1, 3, 512, 512, dtype=torch.float) print(img.shape) img = img.to(ct.mlu_device()) torch.set_grad_enabled(False) model_trace = torch.jit.trace(quantized_net,img,check_trace=False) detect_out = quantized_net(img)展开那请问我想生成能在mlu220边缘设备上运行的离线模型需要什么额外操作呢 0

yolov5s的转离线问题 我的回复：#6yangzhenkun回复方便的话把net_int.pth权重文件单独发一下？这个文件是把两个文件写在一起的，我分开之后load权重,会出错展开net.zip 0

上一页 1 2 3 下一页