打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
您好,想请教一下,
当我在使用cambricon 模型进行离线推理的时候,将网络的输出数据从mlu设备转移到 cpu设备后,且在未经过后处理的操作前, 将mlu设备输出的原始数据 和其他设备模型进行比对中发现了一些问题。
正常文件网络输出原始数据为 [10647, 7]
cambricon twin 中显示为 文件网络输出原始数据为 [10647 1 1 7]
10647代表: box number
我提出一组数据为例:
原始数据,及原始未量化的模型在 cpu上运行的一组box结果
[355.799072 106.428154 23.2000351 27.4446163 0.781931281 0.717263579 0.284157246]
int8.pth 模型在 mlu上运行的同一组box 结果
[355.72610 106.95037 23.794479 27.909504 0.64348906 0.77849144 0.21949708]
cambricon 模型在 mlu 上运行的同一组box结果
[355.507 106.613 48.0585 12.1737 0.659881 0.876296 0.123443]
发现对于 centerx, centery 效果比较良好
对于 w, h 效果非常差
造成对于 一个 gt,其会在 gt处生成 多个预测框, 导致精度下降,比如对于1个gt,会生成 2个预测框,这种现象非常常见,也会导致精度下降严重。
下面是我的代码和一些模型链接
https://pan.baidu.com/s/1PM-awOQx5KI5fqamTpXkEg 密码: 1fam
想请教一下您这边
谢谢您的时间
热门帖子
精华帖子