注册登录

LV.1

Asher_Z

48积分0赞

4 帖子 21 回复 0 收藏

TA的动态

TA的帖子

TA的回复

多卡推理 我的回复：有能回答下的吗？多卡推理流水并行支持吗？ 0

多卡推理 我的回复：有专业人士可以回答一波吗？ 0

模型量化时出错 我的回复：#14weijipeng回复您好，对于“torch.einsum()算子不支持”,建议通过以小算子拼接方式实现。步骤如下：1.进入pytorch docker环境，在[代码]中添加einsum2. 编译catch:[代码]展开您好，谢谢回答，我前些日子已经全部解决了，也是小算子拼接。 0

tensor_impl警告 我的回复：离线推理图片时出现的警告 0

模型量化时出错 我的回复：mlu_functions.yaml中看到支持matmul操作，但是在融合阶段出现不支持，core_num=4. 0

模型量化时出错 我的回复：#11Asher_Z回复我这个是5维的输入，mlu的torch.sum只支持4维的？ST-GCN中的torch.einsum()算子不支持，使用的matmul() + torch.sum()替换 0

模型量化时出错 我的回复：#10weijipeng回复您好，从报错看是torch.sum算子，对于您的输入tensor维度暂不支持，您看是否可以先将输入x reshape成4维（NHWC/NCHW）再进行尝试。展开我这个是5维的输入，mlu的torch.sum只支持4维的？ 0

模型量化时出错 我的回复：#8weijipeng回复您好，请检查输入是否在MLU上，即 input= input.to(ct.mlu_device())torch.sum()在cpu正常运行有正确结果，在mlu上运行报维度不匹配问题。 0

模型量化时出错 我的回复：#6weijipeng回复检查一下量化的模型和输入是否都在cpu上，量化时不应该调到torch_mlu::conv2d，用的是cpu上原生conv算子。量化流程可参考https://www.cambricon.com/docs/pytorch/pytorch_11_tools/Pytorch_tools.html#id4 生成量话模型章节展开模型离线推理： 0

模型量化时出错 我的回复：上图是GCN部分代码，下面是tcn部分代码。是不是qconfig的firstconv处需要修改？ 0

上一页 1 2 下一页