LV.1

QiuJiang

106积分8赞

5 帖子 23 回复 2 收藏

TA的动态

TA的帖子

TA的回复

7.1yolo算子添加 我的回复：“添加算子应该怎么添加啊？”——请问这个问题是指：如何添加到yolov5模型中？还是指如何将算子添加到pytorch框架中？上述两个问题在如下链接中可以得到答案，请参考：https://developer.cambricon.com/index/curriculum/expdetails/id/10/classid/8.html 0

生成离线模型失败 我的回复：你好，导出离线模型的代码看上去不完整，请重新粘贴一下谢谢。另外，模型量化过程可以参考示例（请重点参考模型量化、在线推理这两部分，其他部分是大多是针对yolov5模型的一些修改）： https://developer.cambricon.com/index/curriculum/expdetails/id/10/classid/8.html 0

我的回复：#2lhy514回复请问这个BANGPy文档在哪看啊？你好，目前bangpy相关材料及安装包暂未对外开放，请联系寒武纪与你对接的销售人员获取材料包。 0

mlu270量化原理 我的回复：你好，寒武纪提供的手册已经提供了较详细的量化介绍，暂时无法提供其他参考材料，谢谢。 0

用示例代码和模型跑在MLU220_M.2上 memory报错 我的回复：你好，从报错看可能是220内存不够无法生成yolov5的离线模型。一般情况下，请使用MLU270生成220的离线模型，然后在220上去部署，目前不推荐在220上直接生成离线模型。 1

MLU220 请教yolov5s6 多batchsize推理速度问题 我的回复：你好，cnrtSyncQueue 是在执行板卡推理任务。1、关于延时成倍增长的问题：对于220来说，本身只有4个core，当 batch_size=1 core_number=4时，推理会占满4个core，当 batch_size=4 core_number=4时，推理同样是占满4个core，在计算核资源没有增加但输入成倍增加的情况下，对于yolov5来说，bs=4 的延时是bs=1的延时的三到四倍是正常现象。2、关于延时比较长的问题：想确认一下：1）你的延时是end2end的延时（包含读入图片、前处理、模型推理、后处理）还是模型推理的硬件计算时间？ 2）cnrtSyncQueue 的延时是多少？ 0

请问使用pytorch和tensorflow进行推理任务，是不是最终都调用了CNRT的API进行执行？ 我的回复：#3QiuJiang回复请查看你的系统路径和库文件本身的访问权限。请您根据提示自行申请访问权限。 0

量化前cpu测试问题 我的回复：您好，量化前做的cpu测试是走的框架原始推理，换句话说，寒武纪caffe 跑cpu 与官方caffe 跑cpu 是一样的，如果出现没有结果的现象，请分析是否修改prototxt出现了问题。 0

MLU220 请教yolov5s6 量化问题及部署推理问题 我的回复：#7dao027回复好的，非常感谢！因为我找到的cnrt推理代码中找不到nms的部分，那可能是在转离线模型的python代码中加了这个，我再找一下展开你好，后处理封装成了一个大算子（torch.ops.torch_mlu.yolov5_detection_output）这个算子当前是集成在cnplugin库中的，该模块目前没有开放源码。 1

MLU220 请教yolov5s6 量化问题及部署推理问题 我的回复：#9dao027回复还有个问题想请教一下[图片]就是如果想让板子上推理离线模型的时候使用多batch（比如batchsize=4），是需要在转cambricon模型的python代码里，将您这里提到的随机数据设置为4维就可以了吗？是不是如下就可以了：[代码]最后的check_trace不知道该设置为True还是False展开第一个问题：是的；第二个问题：False。 1

上一页 1 2 3 4 5 6 7 8 9 10 ..12 下一页