基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
签到
注册 登录
打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
量化的模型在线逐层推理和不量化的模型cpu推理结果大致相同。然而导出成离线模型后,离线推理的数值明显偏大,大概是在线逐层推理的3倍。理想情况是在线推理调试好了之后,离线推理要和在线推理的完全一致。那么导致两者偏差很大的原因有哪些呢?
热门帖子
精华帖子