×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

270板卡加载 两个core为4 的离线模型,如何才能使这两个模型跑在不同的MLU 核心上? 已解决 lixiang112022-10-13 08:47:35 回复 4 查看 技术答疑 使用求助 经验交流
270板卡加载 两个core为4 的离线模型,如何才能使这两个模型跑在不同的MLU 核心上?
分享到:

目前mlu270板卡需要加载一个resnet模型和一个yolov5的模型,两个模型都是batch=4 core=4。

通过cnmon info 观察发现这两个模型,只能利用MLU 0-3 这4个核,剩下的4-15核没有用到,

请问有什么方法能使core=4的模型把16个核利用起来吗?

image.png

ps: 之所以使用 core=4 的模型是因为经过测试发现,core=4的模型 fps更高。

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭