全部回复
LV.1
#3
w3jc
回复
半精度浮点确实精度有限,所以实验才给了精度要求嘛
2020-11-18 09:41:48
0
|
回复
LV.3
#2
gg
回复
我算的也是这个结果,估计是转换过程带来的误差吧
2020-11-17 10:05:46
0
|
回复
LV.1
#1
彭功若
回复
换for循环之后,误差依然不变,看来导致这个误差并不是__bang_mul,而是这种实现方式本身,猜测可能是由于数据类型half导致的
2020-11-15 00:06:34
0
|
回复
请
登录
后评论