打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
通过mm_build 分别build出"graph_shape_mutable"=false 和"graph_shape_mutable"=true两个模型文件,
然后进行测试,为什么对于"graph_shape_mutable" =true的模型,通过mm_run输入和graph_shape_mutable=false 同样的静态输入进行测试,性能会差很多?
bert : mm_build [-1 ,-1], [-1 ,-1],[-1 ,-1] ---> mm_run --input_dims 24,128 24,128 24,128
bert : mm_build [4 , 128], [4 , 128],[4 , 128] ---> mm_run
前者性能只有300多,后者性能接近500,是因为生成模型时的优化程度不同?
热门帖子
精华帖子