×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

cnnl 卷积计算中的定点量化问题 解决中 刘好念2023-07-05 21:35:47 回复 8 查看 技术答疑 使用求助
cnnl 卷积计算中的定点量化问题
分享到:

请问在考虑定点量化的 cnnlConvolutionForward中,如果使用 cnnlQuantizeV2 函数对 mlu 端的数据进行量化,还需要使用 cnnlSetTensorDe orPositionAndScale() 函数设置 数据描述符的 postion 和 scale 吗?

另外 自带的 smaples 中 cnnl/convolution 样例代码是使用 cpu内存端的数据进行定点量化再拷贝到mlu端,有没有 直接使用 cnnlQuantizeV1 或者cnnlQuantizeV2 函数的 convolution 样例代码?(我自己尝试实现,虽然代码可以编译运行,但是卷积计算结果总是不对)。 

祝,

寒武纪越来越好。

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭