切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
MLU370系列AI加速卡
MLU270系列AI加速卡
MLU220系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
kmlee
45
积分
0
赞
4
帖子
27
回复
1
收藏
TA的动态
TA的帖子
TA的回复
pytorch 使用genoff.py生成离线模型
我的回复:#3kmlee回复自己来回答一波,从conv2d_first的定义来看:Tensor _7, Tensor _8, Tensor _9, Tensor _10 分别对应scale, mode, mean, std。在生成resnet50离线模型的时候,缺少mode的信息。genoff.py中虽然有quantized_mode 的选项,但是这个选项不起任何作用。需要在genoff.py中添加如下代码[代码]展开def genoff(model, mname, batch_size, core_number, in_heigth, in_width, half_input, input_format, fake_device, quantized_mode): genoff 函数的定义和使用也要把 quantized_mode 加进去
0
pytorch 使用genoff.py生成离线模型
我的回复:自己来回答一波,从conv2d_first的定义来看:Tensor _7, Tensor _8, Tensor _9, Tensor _10 分别对应scale, mode, mean, std。在生成resnet50离线模型的时候,缺少mode的信息。genoff.py中虽然有quantized_mode 的选项,但是这个选项不起任何作用。需要在genoff.py中添加如下代码import torch_mlu.core.quantized as cq ... net = net.eval().float() # ---------------- add --------------- for m in net.modules(): if isinstance(m, (cq.MLUConv1d, cq.MLUConv2d, cq.MLULinear)): m.set_quantized_mode(torch.tensor(quantized_mode)) # ------------------------------------ # prepare input example_mlu = torch.randn(batch_size, 3, in_h, in_w, dtype=torch.float) ...
0
pytorch 使用genoff.py生成离线模型
我的回复:场子好冷
0
pytorch 使用genoff.py生成离线模型
我的回复:将Cambricon-MLU270-models-pytorch.tar中的resnet50-19c8e357.pth放到对应位置。再次执行python pytorch/tools/genoff.py -model resnet50 -mname test -mcore MLU270 -core_number 1 -batch_size 1 -half_input 1还是出错,错误信息RuntimeError: torch_mlu::conv2d_first() Expected a value of type 'Tensor' for argument '_8' but instead found type 'NoneType'.Position: 8Value: NoneDeclaration: torch_mlu::conv2d_first(Tensor _0, Tensor _1, Tensor _2, int[] _3, int[] _4, int[] _5, int _6, Tensor _7, Tensor _8, Tensor _9, Tensor _10) -> (Tensor _0)
0
离线模型的生成
我的回复:#1goodchong回复是有工具自动转化的,我们的框架tensorflow,pytorch,caffe等支持这种转化请问环境搭建和转化工具的使用手册是公开可以下载的还是需要向销售索取。
0
离线模型的生成
我的回复:#5武力全开回复你下载一个pytorch用户手册,找离线模型生成pytorch 用户手册在哪下载呢,我看文档http://forum.cambricon.com/list-64-1.html里没有相关的手册。 还是说要向销售要相关手册。
0
【FAQ】思元(MLU)220支持哪些框架?
我的回复:#1wangxianzhuo回复pytorch 的代码能够直接迁移到mlu上面运行吗同问 +1
0
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭