×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

动态性测试时性能下降问题 解决中 胡汉三2022-11-10 18:26:59 回复 5 查看 技术答疑
动态性测试时性能下降问题
分享到:

通过mm_build 分别build出"graph_shape_mutable"=false 和"graph_shape_mutable"=true两个模型文件,

然后进行测试,为什么对于"graph_shape_mutable" =true的模型,通过mm_run输入和graph_shape_mutable=false 同样的静态输入进行测试,性能会差很多?

bert : mm_build [-1 ,-1], [-1 ,-1],[-1 ,-1]    ---> mm_run --input_dims 24,128 24,128 24,128

bert : mm_build [4 , 128], [4 , 128],[4 , 128]    ---> mm_run 


前者性能只有300多,后者性能接近500,是因为生成模型时的优化程度不同?

 

版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭