×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

就结果的精度误差,用numpy的powerdifference函数结果作为真值,和tensorflowmlu的结果比较吗? liujing2020-05-27 16:09:41 回复 查看
就结果的精度误差,用numpy的powerdifference函数结果作为真值,和tensorflowmlu的结果比较吗?
分享到:

numpy默认的是使用float64,也就是double,而卡上面的计算默认是fp16的。


版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭