在MLU端进行超大规模数据测试时如何才能提高精度呢? g8247181142020-05-28 18:41:10 回复 9 查看 高校课程
在MLU端进行超大规模数据测试时如何才能提高精度呢?

如题,在使用(256*256*3)的数据做平方运算测试的时候精度可以实现0.1%以内,但是同样的算法在(256*256*16)的4次方运算时精度就只有0.2%了。

版权所有 © 2019 寒武纪 Cambricon 备案/许可证号:京ICP备17003415
关闭