开发者论坛

全部回复

LV.3 #8 洛北回复

2021-10-13 14:15:33 0| 回复

LV.3 #7 Sunshine回复

#6zhaodeming回复

您好，个别数据有误差是正常情况。一般情况下，看量化前后总体的数据误差分布即可验证量化的正确性。

好吧谢谢

2021-09-28 09:03:26 0| 回复

LV.3 #6 doraiba2022回复

#5Sunshine回复

您好:
麻烦再请教个问题：
os.environ['MLU_VISIBLE_DEVICES'] = ''   时输出结果：
[-10.985053062438965, -4.502354145050049, 11.981266021728516, -4.67495584487915, -10.967516899108887, -5.212316513061523]
os.environ['MLU_VISIBLE_DEVICES'] = '0'   时输出结果：
[-10.981719970703125, -4.060201168060303, 11.233656883239746, -4.5948405265808105, -10.96412467956543, -5.060123443603516]


其中第二项误差：4.502354145050049 - 4.060201168060303 =  0.44

CPU和MLU计算误差这么大的吗？

展开

您好，个别数据有误差是正常情况。一般情况下，看量化前后总体的数据误差分布即可验证量化的正确性。

2021-09-27 19:33:30 0| 回复

LV.3 #5 Sunshine回复
#3zhaodeming回复
您好，是正常范围的数据值。融合模式(true)将所有算子作为一个 fusion 算子，只对 fusion 算子执行编译指令过程。逐层模式(false)对每个算子进行逐个编译，结果会有部分差距。
展开
您好: 麻烦再请教个问题： os.environ['MLU_VISIBLE_DEVICES'] = '' 时输出结果： [-10.985053062438965, -4.502354145050049, 11.981266021728516, -4.67495584487915, -10.967516899108887, -5.212316513061523] os.environ['MLU_VISIBLE_DEVICES'] = '0' 时输出结果： [-10.981719970703125, -4.060201168060303, 11.233656883239746, -4.5948405265808105, -10.96412467956543, -5.060123443603516] 其中第二项误差：4.502354145050049 - 4.060201168060303 = 0.44 CPU和MLU计算误差这么大的吗？
2021-09-27 19:11:25 0| 回复

LV.3 #4 Sunshine回复

#3zhaodeming回复

您好，是正常范围的数据值。融合模式(true)将所有算子作为一个 fusion 算子，只对 fusion 算子执行编译指令过程。逐层模式(false)对每个算子进行逐个编译，结果会有部分差距。

展开

好的谢谢

2021-09-27 18:58:21 0| 回复

LV.3 #3 doraiba2022回复
#2Sunshine回复
感谢回复：刚又尝试了下，上面问题是os.environ['MLU_STATIC_NODE_FUSION'] 这个环境变量设置为true和false引起的不一致，不是量化的问题；这中情况也是正常的吗？
展开
您好，是正常范围的数据值。融合模式(true)将所有算子作为一个 fusion 算子，只对 fusion 算子执行编译指令过程。逐层模式(false)对每个算子进行逐个编译，结果会有部分差距。
2021-09-27 16:59:11 0| 回复
LV.3 #2 Sunshine回复
#1zhaodeming回复
您好，在量化后，原浮点数转为8bit表示，会引入量化误差，因此精度会有一部分损失，图上的结果数据属于正常范围值
展开
感谢回复：刚又尝试了下，上面问题是os.environ['MLU_STATIC_NODE_FUSION'] 这个环境变量设置为true和false引起的不一致，不是量化的问题；这中情况也是正常的吗？
2021-09-27 16:30:43 0| 回复
LV.3 #1 doraiba2022回复

您好，在量化后，原浮点数转为8bit表示，会引入量化误差，因此精度会有一部分损失，图上的结果数据属于正常范围值

2021-09-27 16:27:12 0| 回复

请登录后评论