×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

关于ConvTranspose2d算子分通道量化失败的问题上报 陈叶飞2022-02-25 16:44:19 回复 2 查看 使用求助
关于ConvTranspose2d算子分通道量化失败的问题上报
分享到:

背景:

量化PoseNet(hrnet开源代码中, 基于resnet backbone的模型)过程中, 在线模型量时, 如果开启分通道量化, 则在离线模型生成时, 会报错, 错误发生在nn.ConvTranspose2d算子上:

===============================================================

[cnmlError] Filter DIM_C is: 256, but the size of Pos and Scale is: 512.

[cnmlError] Deconv Op channel quant: the size of Pos and Scale should be equal with filter DIM_C

[ERROR][/pytorch/catch/torch_mlu/csrc/aten/operators/cnml/internal/convtranspose2d_internal.cpp][line:183][cnml_convtranspose2d_internal][thread:140613578876672][process:9298]:

CNML error: CNML_STATUS_UNSUPPORT

===============================================================

如果关闭分通道量化, 则成功生成离线模型.



环境背景:

官网获取的docker镜像: cambricon_pytorch_u16.04_v1.7.0_pt0.15.0, 驱动版本v1.7.0


版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭