打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
【寒武纪硬件产品型号】:MLU270
【使用操作系统】:ubuntu18.04
【当前已做了哪些信息确认】:
保存 CPU 和 MLU 模型逐层数据并进行逐层比对:
dump_utils.diff_data("output/dump_cpu_data.pth", "output/dump_mlu_data.pth")
得到的部分结果如下:
_00269_body.23.res_ .5.sigmoid_in errRate = 0.02497834898531437
_00269_body.23.res_ .5.sigmoid_out errRate = 1.5582651030854322e-05
_00270_output_ .0_in errRate = 0.05778135731816292
_00270_output_ .0_out errRate = 0.057780671864748
_00271_output_ .1_in errRate = 0.057780671864748
_00271_output_ .1_out errRate = 0.057780671864748
_00272_output_ .2_in errRate = 0.057780671864748
_00272_output_ .2_out errRate = 0.057780671864748
_00273_output_ .3.observer_in errRate = 0.057780671864748
_00274_output_ .4_in errRate = 0.030031684786081314
_00274_output_ .4_out errRate = 0.029928598552942276
...
你好,对结果errRate有点疑惑:
用MSE方式对比的,这个输出的errRate是均方误差MSE的值还是MSE百分比的值呢?
如果是百分比值,每层的误差在千分之三以内才是量化误差正常允许范围内吗?
如果是MSE值,那一般这个误差在多少之内算合理呢?
热门帖子
精华帖子