问题1: 220卡一共4个core,当您需要跑多路时,请根据您的实际需求(延时优先还是吞吐优先)和板卡的资源情况来决定,1batch_4core时模型同一时间输入1张图片且使用4个core来处理,4b4c时模型同一时间输入4张图片且使用4个core来处理。用1b4c来跑4路,当一路在处理时,相较4b4c另外三路等的时间不会太长。最后,跑4路时可以试试看1b4c/1b1c/4b4c ,选一个最匹配您需求的配置来生成离线模型;问题2:使用cnrt 和 pipline(您是指cnstream对吧?)都可以,看您对哪种方式更熟悉。展开