分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

在线推理和离线推理结果不一致 kmlee2021-01-18 11:20:42 回复 查看 PyTorch 开发平台 思元270
在线推理和离线推理结果不一致
分享到:

量化的模型在线逐层推理和不量化的模型cpu推理结果大致相同。然而导出成离线模型后,离线推理的数值明显偏大,大概是在线逐层推理的3倍。理想情况是在线推理调试好了之后,离线推理要和在线推理的完全一致。那么导致两者偏差很大的原因有哪些呢?

热门帖子

精华帖子

版权所有 © 2021 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭