打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
【寒武纪硬件产品型号】必填*:MLU270-S4
【使用操作系统】必填*:ubuntu-18
【使用驱动版本】必填*:4.9.2
【出错信息】必填*:使用cnml库中的createFloorOp()算子,我发现,只要输入的数字大于一个阈值,输出数字只能在32768(2^15)附近,是不是cnml中的floor算子有最大值要求?。
(我在输入和输出的数据类型都为float16。输入数据时已经使用cnrtCastDataType()函数使用将数据从float32转为int_16,打印输出结果时也已经使用cnrtCastDataType()转为float32)
热门帖子
精华帖子