×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

如何在多张220上进行模型并行推理 解决中 幺白幺木2023-09-05 22:04:08 回复 7 查看 使用求助
如何在多张220上进行模型并行推理
分享到:

我有一块多卡的220板子,我该如何将离线模型拆成多个部分加速推理,或者说我如何让一个离线模型在这块板子上进行分布式的推理。数据并行好做,但是模型并行不知道怎么做,有没有什么可以参考的资料?

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭