打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
在看寒武纪Pytorch用户手册提到的 “离线模型生成过程中通过指定 input_format
参数确定输入图片的通道顺序,相应地需要在运行文件中添加 input_format
参数来指定运行模型时输入图片的通道顺序,其它地方不需要进行修改。”
请问,这个input_format参数具体是指什么?我的理解是如果core_number设置了4,jit模式的trace_input的batch_size也设置成4,那么我输入图片的时候就需要将4张图片一起输入进模型进行推理。
如果是这样,也就是说模型一次能够推理4张图片,那它是并行化推理的吗,还是说它仍是将4张图片进行一张接着一张串行的推理的?
热门帖子
精华帖子