×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

MLU270 tensorflow pb模型使用环境变量量化后模型输出不一致 已解决 Sunshine2021-09-27 15:42:54 回复 8 查看 技术答疑
MLU270 tensorflow pb模型使用环境变量量化后模型输出不一致
分享到:

您好:

我在MLU270上使用环境变量进行量化:https://www.cambricon.com/docs/tensorflow/fusion_user_guide/tf_4_using_fusion/tf_4.html#id9

量化前后模型输出结果不一致:

network_quant_param.txt内容:

bit_width:8

quant_mode:naive

filter_channel_quant:false


scale_map:

{

MatMul/filter:452.288

MatMul/input:14.1111

MatMul_2/input:145.494

MatMul_1/input:127.331

MatMul_2/filter:218.123

MatMul_1/filter:1069.62

}


量化前输出:

 [-6.392754077911377, 4.27253532409668, 2.9682750701904297, -6.2786126136779785, -6.288553237915039,-6.375898361206055, 3.1398277282714844, 3.5507168769836426, 3.830399513244629, -6.378072261810303, -6.30010461807251, 18.84880256652832]


量化后输出:

[-6.392712116241455, 3.721627950668335, 2.8844430446624756, -6.278565406799316, -6.288506507873535,-6.375855445861816, 2.9910502433776855, 3.664391040802002, 4.406402587890625, -6.3780293464660645, -6.300058364868164, 18.95039939880371]


麻烦看下是什么原因?感谢!

微信:sunshine-jzj


版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭