1)尾数位和指数位截断,跟量化不一样,可参考https://blog.csdn.net/qq_36533552/article/details/105885714
2)精度损失,如果只看尾数位的话,就是从float的23bit变成half的10bit,损失掉了13bit,再结合half的指数位,还有考虑subnormal的情况,就比较复杂了
请登录后评论