分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

在MLU端进行超大规模数据测试时如何才能提高精度呢? g8247181142020-05-28 18:41:10 回复 11 查看 高校课程
在MLU端进行超大规模数据测试时如何才能提高精度呢?
分享到:

如题,在使用(256*256*3)的数据做平方运算测试的时候精度可以实现0.1%以内,但是同样的算法在(256*256*16)的4次方运算时精度就只有0.2%了。

版权所有 © 2019 寒武纪 Cambricon 备案/许可证号:京ICP备17003415
关闭