• 

  LV.2 #3 xgs0705回复

  #2武力全开回复

  是用的torchdump工具吗问题1：每一个输出对应一个算子，这几个都是模型中不同的算子，可以确认下 _00000_conv0.conv_in errRate = 0.0_00000_conv0.conv_out errRate = 0.0_00001_conv0.bn_in errRate = 0.0_00001_conv0.bn_out errRate = 0.0_00002_conv0.act_in errRate = 0.0_00002_conv0.act_out errRate = 0.0问题2：cpu推理和mlu逐层推理之间存在很大的误差 ？可以具体描述下比较的方式吗？

  展开

  你好，我对输出进行了一定的后处理从而得到一个可以衡量精度的值，对于同样的8位量化模型，使用cpu推理的结果是4.8，使用mlu逐层推理的结果接近7，而对于16位量化模型则基本没有误差。对于这样的问题，一般是什么情况导致的？如果是mlu算子有问题，16位模型应该也会误差较大才对。

  2024-04-04 14:20:34 0| 回复
• 

  LV.1 #2 武力全开回复

  是用的torchdump工具吗

  问题1：每一个输出对应一个算子，这几个都是模型中不同的算子，可以确认下

   _00000_conv0.conv_in errRate = 0.0
  _00000_conv0.conv_out errRate = 0.0
  _00001_conv0.bn_in errRate = 0.0
  _00001_conv0.bn_out errRate = 0.0
  _00002_conv0.act_in errRate = 0.0
  _00002_conv0.act_out errRate = 0.0

  问题2：cpu推理和mlu逐层推理之间存在很大的误差 ？

  可以具体描述下比较的方式吗？

  2024-04-03 11:43:42 0| 回复
• 

  LV.2 #1 xgs0705回复

  还有一个问题就是我的conv之后跟着有一个bn的操作除了第一次出现的conv0，包括conv、bn、act三个，其他的所有都只有act没有bn的一个误差？

  
  

  
  

  2024-04-02 14:17:03 0| 回复

请登录后评论