×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

算子pow溢出的问题 liujing2020-05-25 19:23:35 回复 查看 高校课程
算子pow溢出的问题
分享到:

在main.cpp中已定义好,并且精度误差也是已pow=2来计算的,是事先计算好的,存在data的out.txt中,所以设置pow=3 就溢出了。

实验只要求pow=2。
溢不溢出要看输入数,即x-y的差值,跟pow的大小没有必然关系,当然pow越大,溢出的概率也越大,但如果x-y的差值一直都很小,也不会溢出,所以如果要算pow大于2的结果,可能需要修改更合适的输入数,另外还要提前计算好正确的结果才能比较精度误差,目前已固化好的数据可能就不太合适了。

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭