×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

cnml Floor 函数有最大数值的约束么? 已完结 刘好念2023-07-18 17:25:01 回复 3 查看 技术答疑 使用求助
cnml Floor 函数有最大数值的约束么?
分享到:

【寒武纪硬件产品型号】必填*:MLU270-S4


【使用操作系统】必填*:ubuntu-18


【使用驱动版本】必填*:4.9.2


【出错信息】必填*:使用cnml库中的createFloorOp()算子,我发现,只要输入的数字大于一个阈值,输出数字只能在32768(2^15)附近,是不是cnml中的floor算子有最大值要求?。

(我在输入和输出的数据类型都为float16。输入数据时已经使用cnrtCastDataType()函数使用将数据从float32转为int_16,打印输出结果时也已经使用cnrtCastDataType()转为float32)


版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭