×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

llamafactory如何设置模型并行 已完结 Wayne_Q2025-04-10 16:40:03 回复 2 查看 使用求助 经验交流
llamafactory如何设置模型并行
分享到:

使用llamafactory训练,qwen2.5-7b,输入数据量token偏大20k,MLU370-X8,单张卡与多张卡都会报OOM,是不是每张卡都将模型加载进去,如何设置模型并行与数据并行?

image.png

版权所有 © 2025 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭