• 

  LV.6 #8 三叶虫回复

  #7FrostLee回复

  解决了解决了。

  好嘞~欢迎分享经验呀

  2023-02-16 11:45:35 0| 回复
• 

  LV.1 #7 FrostLee回复

  #6三叶虫回复

  请问您现在问题解决了吗？

  解决了解决了。

  2023-02-16 10:51:32 1| 回复
• 

  LV.6 #6 三叶虫回复

  #5FrostLee回复

  你说得对，还没调用MLU的接口，这里错误是因为使用非量化模型加载了量化参数导致的错误。

  请问您现在问题解决了吗？

  2023-02-09 17:17:32 0| 回复
• 

  LV.1 #5 FrostLee回复

  #4fcam回复

  报错代码位置只是在load模型（CPU）阶段，和MLU没有任何关系。从提供的log信息看，没有发现model和checkpoint size不匹配，这个比较奇怪。如果怀疑和MLU相关，可以注释掉量化代码和其他MLU相关代码，先排查单纯的模型load是否有问题。

  展开

  你说得对，还没调用MLU的接口，这里错误是因为使用非量化模型加载了量化参数导致的错误。

  2023-02-06 17:24:12 0| 回复
• 

  LV.1 #4 fcam回复

  报错代码位置只是在load模型（CPU）阶段，和MLU没有任何关系。从提供的log信息看，没有发现model和checkpoint size不匹配，这个比较奇怪。如果怀疑和MLU相关，可以注释掉量化代码和其他MLU相关代码，先排查单纯的模型load是否有问题。

  2023-02-02 18:43:14 1| 回复
• 

  LV.1 #3 JCBCam回复

  #2jiachangbin回复

  2023-02-01 18:05:35.446263: [cnrtWarning] [389674] [Card : NONE] Failed to initialize CNDEV. Host manage interface disabled 2023-02-01 18:05:35.448696: [cnrtError] [389674] [Card : NONE] No MLU can be found !cnmon 看一下？2023-02-01 18:05:35.448719: [cnmlError] No MLU device2023-02-01 18:05:35.448893: [cnmlError] No MLU device

  展开

  是不是找不到设备了，cnmon 看一下试试

  2023-02-02 18:32:41 0| 回复
• 

  LV.1 #2 JCBCam回复

  2023-02-01 18:05:35.446263: [cnrtWarning] [389674] [Card : NONE] Failed to initialize CNDEV. Host manage interface disabled 

  2023-02-01 18:05:35.448696: [cnrtError] [389674] [Card : NONE] No MLU can be found !

  cnmon 看一下？

  2023-02-01 18:05:35.448719: [cnmlError] No MLU device

  2023-02-01 18:05:35.448893: [cnmlError] No MLU device

  2023-02-02 18:31:56 0| 回复
• 

  LV.1 #1 FrostLee回复

  量化代码如下：

  
  

  def quantification(imgfile, mlu220 = False):

  
  

      with torch.no_grad():

          ckpt = torch.load(opt.weight, map_location=torch.device('cpu'))  # load checkpoint

          state_dict = ckpt['model'] if 'model' in ckpt else ckpt

  
  

          model = Model(img_sizes = opt.img_size, conf_thres = 0.2, nms_thres = 0.4, maxBoxNum=1024, cfg=opt.cfg, ch=3, mlu_postprocess= opt.mlu_postprocess).to(torch.device('cpu'))  # create

          model.load_state_dict(state_dict, strict=False)  # load

          model.eval().float().fuse()

          model = model.to(torch.device('cpu'))

          model = mlu_quantize.quantize_dynamic_mlu(model, { 'iteration':1000,'mean': mean, 'std': std, 'data_scale':1.0, 'firstconv': mlu220,'perchannel':True, 'use_avg':False }, dtype='int8', gen_quant=True )

  
  

          calibration(model, "./coco-eval",20)

  
  

          torch.save(model.state_dict(), save_path)

  2023-02-01 18:22:01 0| 回复

请登录后评论