×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

Cnstream自转换模型推理速度达不到demo提供的速度 已解决 Sunrise2023-06-08 08:31:41 回复 10 查看 使用求助
Cnstream自转换模型推理速度达不到demo提供的速度
分享到:

【寒武纪硬件产品型号】必填*:
MLU370


【使用操作系统】必填*:
例如:ubuntu


【使用驱动版本】必填*:
例如:v4.20.6


【使用AI框架】必填*:
例如:Pytorch,

【操作步骤】选填:

1、根据buildin/cv/detection/yolov5_v6.1_pytorch · Cambricon/magicmind_edge - 码云 - 开源中国 (gitee.com) 进行模型转换

2、转换命令:python3 gen_model.py --output_model_path ../models/yolov5m_${QUANT_MODE}_${BATCH_SIZE}.mm --image_dir ../datasets/COCO/val2017 --quant_mode qint8_mixed_float16 --batch_size 4 --conf_thres 0.001 --iou_thres 0.6

3、Cnstream模型路径更换进行推理 

4、demo提供的模型可以支持32路  自转换20路卡顿 请问是什么原因

【当前已做了哪些信息确认】选填:
调试通过


版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭