×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

MLU100卷积核维度不一致是否会导致计算结果不一致? Sunshine2022-06-13 20:15:00 回复 4 查看 技术答疑
MLU100卷积核维度不一致是否会导致计算结果不一致?
分享到:

您好:

  我在MLU100-V8.2.1-Caffe框架下测试了restnest50+FPN的主干网络,主干网络有如下2种情况,(1)原始restnest50,(2)减小restnest50中每个卷积层的卷积核个数;两种情况下网络卷积核大小分别如下所示(仅选取了前10个):

(1)原始restnest50

('conv1', (32, 3, 3, 3))

('conv4', (32, 32, 3, 3))

('conv7', (64, 32, 3, 3))

('conv11', (64, 64, 1, 1))

('conv14', (128, 32, 3, 3))

('conv20', (32, 64, 1, 1))

('conv23', (128, 32, 1, 1))

('conv34', (256, 64, 1, 1))

('conv37', (256, 64, 1, 1))

('conv41', (64, 256, 1, 1))


(2)减少卷积核个数后的restnest50

('conv1', (16, 3, 3, 3))

('conv4', (16, 16, 3, 3))

('conv7', (32, 16, 3, 3))

('conv11', (16, 32, 1, 1))

('conv14', (32, 8, 3, 3))

('conv20', (32, 16, 1, 1))

('conv23', (32, 32, 1, 1))

('conv34', (64, 16, 1, 1))

('conv37', (64, 32, 1, 1))

('conv41', (16, 64, 1, 1))


经过测试发现,

第一种情况(1)原始restnest50:在caffe环境下CPU模式和MLU模式下推理结果数值一致;

第二种情况(2)减少卷积核个数后的restnest50:在caffe环境下CPU模式和MLU模式输出结果的数值不一致,比如CPU下输出403,MLU下输出结果为393;

通过设置debug_info输出每层数据,对比发现restnest50最后一层的输出结果,CPU和MLU存在误差。

 restnest50涉及的算子主要有Conv、BN、Scale、ReLU、Eltwise、Slice、Reshape、Softmax、Permute;



请问这种情况可能是什么原因导致的呢?是因为MLU算子有维度大小要求吗?




image.png



版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭