×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

在线逐层和在线融合推理 已完结 天晓得2023-05-22 17:58:16 回复 4 查看 技术答疑 使用求助 经验交流
在线逐层和在线融合推理
分享到:

【寒武纪硬件产品型号】必填*:
MLU270


【使用操作系统】必填*:
ubuntu 18.04


【使用驱动版本】必填*:
例如:v4.9.8


【出错信息】必填*:

同样的大小的数据,使用4个核心进行在线逐层推理时没有问题,但是在线融合推理时出现显存不够的问题:

MLU bfc_allocator has run out of ipu memory!

使用1个核心和16个核心的时候,二者都没有问题。

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭