您好,请问如果我想一次推理多张图片的话是不是需要修改inputnum和outputnum参数呢,如果是的话在生成离线模型的时候需要修改哪些参数呢,模型是pytorch框架的
trace_input = torch.randn(1, 3, 384, 640, dtype=torch.float)中的N维,决定了离线模型的batch数。
您好,离线模型的这两个参数是根据离线模型生成时候的模型输入输出数量确定的。生成之后就不能改了。
请登录后评论