打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
【寒武纪硬件产品型号】必填*:
MLU270
【使用操作系统】必填*:
ubuntu 18.04
【使用驱动版本】必填*:
v4.9.4
【模型源码】:
https://github.com/meituan/YOLOv6
【出错信息】必填*:
可以正常生成量化模型,torch.jit.trace 保存离线模型时报错
量化及生成离线模型代码:
mean = [0,0,0]
std = [1/255, 1/255, 1/255]
quantized_model = mlu_quantize.quantize_dynamic_mlu(model, {'mean':mean, 'std':std, 'firstconv':False}, dtype='int8', gen_quant=True)
quantized_model = quantized_model.eval().float()
torch.save(quantized_model.state_dict(), 'yolov6s_qua.pth')
quantized_model.load_state_dict(torch.load('yolov6s_qua.pth'))
ct.save_as_cambricon('yolov6s_b1')
torch.set_grad_enabled(False)
ct.set_core_number(4)
trace_input = torch.randn(1, 3, 640, 640, dtype=torch.float).to(ct.mlu_device())
net_mlu = quantized_model.to(ct.mlu_device())
net = torch.jit.trace(net_mlu, trace_input, check_trace = False)
net(trace_input)
ct.save_as_cambricon("")
不保存离线模型,同样报错:
output=net_mlu(trace_input)
热门帖子
精华帖子