×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

llamafactory推理 已完结 Wayne_Q2025-04-08 09:47:04 回复 5 查看 使用求助
llamafactory推理
分享到:

image.png

共8张MLU370X8的卡,但使用llamafactory推理的时候还是报错,out of memory,设置PYTORCH_MLU_ALLOC_CONF=expandable_segments后,加载模型或者训练时服务直接停掉了,出现如下问题:

image.png

请问该怎么解决

版权所有 © 2025 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭