切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
MLU370系列AI加速卡
MLU270系列AI加速卡
MLU220系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
Asher_Z
64
积分
0
赞
6
帖子
29
回复
0
收藏
TA的动态
TA的帖子
TA的回复
模型量化时出错
我的回复:#8weijipeng回复您好,请检查输入是否在MLU上,即 input= input.to(ct.mlu_device())torch.sum()在cpu正常运行有正确结果,在mlu上运行报维度不匹配问题。
0
模型量化时出错
我的回复:#6weijipeng回复检查一下量化的模型和输入是否都在cpu上,量化时不应该调到torch_mlu::conv2d,用的是cpu上原生conv算子。量化流程可参考https://www.cambricon.com/docs/pytorch/pytorch_11_tools/Pytorch_tools.html#id4 生成量话模型章节展开模型离线推理:
0
模型量化时出错
我的回复:上图是GCN部分代码,下面是tcn部分代码。是不是qconfig的firstconv处需要修改?
0
模型量化时出错
我的回复:#3Asher_Z回复网络是双流图卷积(ST-GCN),输入模型是两个不同维度的tensor.self.qconfig = {'iteration': 1, 'firstconv':False}self.quantized_model =mlu_quantize.quantize_dynamic_mlu(self.model, self.qconfig, dtype='int8',gen_quant=True)self.quantized_model = self.quantized_model.cpu().eval().float()
0
模型量化时出错
我的回复:网络是双流图卷积(ST-GCN),输入模型是两个不同维度的tensor.
0
模型量化时出错
我的回复:#1weijipeng回复您好,从报错看猜测是conv调用时加入了额外的arg, 请检查或提供下conv报错那一行的代码。你好我检查了下并没有发现多余的参数引入
0
上一页
1
2
下一页
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭