切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
MLU370系列AI加速卡
MLU270系列AI加速卡
MLU220系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
dao027
60
积分
1
赞
4
帖子
31
回复
0
收藏
TA的动态
TA的帖子
TA的回复
MLU220 请教yolov5s6 量化问题及部署推理问题
我的回复:#5QiuJiang回复问题3:int8模型生成离线模型时可以用随机数据作为输入。详细资料可以参考pytorch使用手册:https://www.cambricon.com/docs/pytorch/pytorch_11_tools/index.html展开还有个问题想请教一下就是如果想让板子上推理离线模型的时候使用多batch(比如batchsize=4),是需要在转cambricon模型的python代码里,将您这里提到的随机数据设置为4维就可以了吗?是不是如下就可以了:trace_input = torch.randn(4, 3, 640, 640, dtype=torch.float) model = torch.jit.trace(model, trace_input, check_trace = False)最后的check_trace不知道该设置为True还是False
1
MLU220 请教yolov5s6 量化问题及部署推理问题
我的回复:#2xukefang回复另外你转的yolov5s6版本的离线模型可以推理得到框的数量吗?在板子上利用cnrt推理可以根据结果计算得到,具体可以参考这个repo(我也还在摸索):https://github.com/CambriconECO/Pytorch_Yolov5_Inference/blob/eb36b68e5a4ee3fe23c45ec545bef68dced452bb/offline/yolov5_offline_simple_demo/src/processor.cpp 在line 189
1
MLU220 请教yolov5s6 量化问题及部署推理问题
我的回复:#3xukefang回复问题4:nms和conf参数在[代码]好的,非常感谢!因为我找到的cnrt推理代码中找不到nms的部分,那可能是在转离线模型的python代码中加了这个,我再找一下
1
MLU220 请教yolov5s6 量化问题及部署推理问题
我的回复:#4QiuJiang回复答复问题1:多张图片量化有2个地方需要修改:1)qconfig={'iteration': N, 2)循环读取图片执行量化模型的推理quantized_net(im_tensor)展开好的,感谢感谢,已经实现了,用100张图比1张图的量化多了约1个点的精度
1
上一页
1
2
下一页
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭