×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

多核推理过程 官方回复 mcj2022-05-14 09:22:41 回复 1 查看 技术答疑 使用求助
多核推理过程
分享到:

在看寒武纪Pytorch用户手册提到的 “离线模型生成过程中通过指定 input_format 参数确定输入图片的通道顺序,相应地需要在运行文件中添加 input_format 参数来指定运行模型时输入图片的通道顺序,其它地方不需要进行修改。”

请问,这个input_format参数具体是指什么?我的理解是如果core_number设置了4,jit模式的trace_input的batch_size也设置成4,那么我输入图片的时候就需要将4张图片一起输入进模型进行推理。

如果是这样,也就是说模型一次能够推理4张图片,那它是并行化推理的吗,还是说它仍是将4张图片进行一张接着一张串行的推理的?

版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭