×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

yolov6s 保存离线模型失败 解决中 vicky_shan2022-10-31 16:30:35 回复 1 查看 使用求助
yolov6s 保存离线模型失败
分享到:

【寒武纪硬件产品型号】必填*:
MLU270
【使用操作系统】必填*:
ubuntu 18.04


【使用驱动版本】必填*:
v4.9.4

【模型源码】:

https://github.com/meituan/YOLOv6

【出错信息】必填*:

可以正常生成量化模型,torch.jit.trace 保存离线模型时报错

图片.png

量化及生成离线模型代码:

    mean = [0,0,0]
    std = [1/255, 1/255, 1/255]

    quantized_model = mlu_quantize.quantize_dynamic_mlu(model, {'mean':mean, 'std':std, 'firstconv':False}, dtype='int8', gen_quant=True)
    quantized_model = quantized_model.eval().float()
    torch.save(quantized_model.state_dict(), 'yolov6s_qua.pth')

    quantized_model.load_state_dict(torch.load('yolov6s_qua.pth'))

    ct.save_as_cambricon('yolov6s_b1')
    torch.set_grad_enabled(False)
    ct.set_core_number(4)
    trace_input = torch.randn(1, 3, 640, 640, dtype=torch.float).to(ct.mlu_device())

    net_mlu = quantized_model.to(ct.mlu_device())

    net = torch.jit.trace(net_mlu, trace_input, check_trace = False)
    net(trace_input)
    ct.save_as_cambricon("")

    不保存离线模型,同样报错:

    output=net_mlu(trace_input)



版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭