×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

mlu不能跑多核 已完结 家乡的日出2022-01-21 12:02:39 回复 1 查看 技术答疑 使用求助 干货资源
mlu不能跑多核
分享到:

def predict_one_img(self,img):#单张图

        #1.设置参数

        # ct.set_core_number(4)

        ct.set_core_version("MLU270")

        ct.save_as_cambricon("jiegouhua-last-c4")

       


        #2.处理数据  

        # input = resize_one_img_cust(img)#图片归一化,right

        input = letter_box_simple(img)#图片归一化,right


        # 3.推理

        with torch.no_grad():#不求导,只前向推理

            #3.1 拷贝tensor

            img_mlu = input.to(ct.mlu_device())


            #3.2 逐层网络或者融合

            # output= self.quantized_net_mlu(img_mlu) #mlu逐层网络

            self.quantized_net_traced = torch.jit.trace(self.quantized_net_mlu, img_mlu, check_trace=False) #融合模式

            output= self.quantized_net_traced(img_mlu)


            #3.3模型固话

            torch_mlu.core.mlu_model.save_as_cambricon("")


            #3.4后处理

            output_cpu = output.cpu()

            print("output_cpu.shape:",output_cpu.shape)

            pred = get_boxes(output_cpu,1)

            print("pred:",pred)



(1)问题:使用 ct.set_core_number(4),想用4he推理,推理结果是错误的。不设置ct.set_core_number(4),采用默认值,相当于用单核,就是对的?


(2)展示1: 4核推理的错误结果

ct.set_core_number(4),

ct.set_core_version("MLU270")

ct.save_as_cambricon("jiegouhua-last-c4")


image.png



(3)展示2: 单核推理的正确结果

ct.set_core_version("MLU270")

ct.save_as_cambricon("jiegouhua-last-c4")

image.png







版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭