×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

MLU100上ploy_nms算子问题 已解决 Sunshine2022-10-28 14:06:43 回复 10 查看 技术答疑
MLU100上ploy_nms算子问题
分享到:

https://github.com/Cambricon/mlu-ops/blob/ae3b78a6487e663ff93cb6d940048d7db863b0ed/bangc-ops/kernels/poly_nms/intersect_area.h#L33

在ploy_nms算子计算IOU面积时涉及一个变量:constexpr uint32_t BIT_FLOAT_NEG_1 = 0x80000000; 

我想在MLU100上运行一下这个算法,改动如下:

float => half,    uint32_t => uint16_t

当检测框是凹四边形时,计算结果是正确的;

检测框是凸多边形时,计算结果是错误的,原因是BIT_FLOAT_NEG_1初始化值不正确,

请问在MLU100设备上BIT_FLOAT_NEG_1值应该怎么样初始化?

ploy_nms.zip


版权所有 © 2025 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭