• 

  LV.1 #4 fqyld回复

  #3HelloAI回复

  你应该要在model_q = mlu_quantize.quantize_dynamic_mlu(model)后load下你量化后保存下来的state_dict

  展开

  好的，谢谢，现在可以生成离线模型了。但是量化之后数据的结果会有误差，我用CPU执行YOLO推理的结果都是准确的，但是离线模型的框会偏左上，我猜测可能是量化映射后取整导致坐标整体偏小，请问你知道有方法可以解决或者缓解吗？

  2023-10-23 11:27:35 0| 回复
• 

  LV.3 #3 HelloAI回复

  #2fqyld回复

  是的，但是初始模型不是也有初始权重吗，我也使用了量化

  你应该要在model_q = mlu_quantize.quantize_dynamic_mlu(model)

  后load下你量化后保存下来的state_dict

  2023-10-23 10:06:54 0| 回复
• 

  LV.1 #2 fqyld回复

  #1HelloAI回复

  220也可以生成离线模型，但是你的代码好像都没有load权值啊，另外，全职要先经过量化的

  是的，但是初始模型不是也有初始权重吗，我也使用了量化

  2023-10-18 14:00:48 0| 回复
• 

  LV.3 #1 HelloAI回复

  220也可以生成离线模型，但是你的代码好像都没有load权值啊，另外，全职要先经过量化的

  2023-10-16 14:24:20 0| 回复

请登录后评论