就离线模型生成成batchsize为4,然后推理代码将4张图片放到一个指针inputCpuPtrS[0]里,还需要修改其他地方吗?[图片]
对输出结果做后处理的代码也跟着按照batch_size=4处理就可以了,注意按照输出的shape和datatype处理好数据指针的偏移来获取对应batch的输出结果,比如你这里输出的shape是2*416*416,输出datatype是FLOAT16,那指针的编译就是2*416*416*2个字节
将batchsize改为4试试
就离线模型生成成batchsize为4,然后推理代码将4张图片放到一个指针inputCpuPtrS[0]里,还需要修改其他地方吗?
请登录后评论