本机多设备的运行机理 - 理论课程

分享到微信

打开微信，使用扫一扫进入页面后，点击右上角菜单，

点击“发送给朋友”或“分享到朋友圈”完成分享

老师您好，您在讲tensorflow 运行机理时，Master 和worker 关系，如下图每个GPU都是单独处理模型的，但是讲到后面节点设备分配的时候，使用贪心算法感觉计算图是将节点分给不同的设备（分给不同的GPU，感觉将计算图再分割，再计算），感觉前后冲突了吗。是理解成将节点分给不同的worker 吗

热门帖子

发帖前先看这里！怎样在论坛上提问能更快获得满意的答案 Ashelly 13 回复
【OpenBioMed大模型适配】OpenBioMed在寒武纪MLU370板卡上的试用 fengyunkai 1 回复
【小编推荐】寒武纪大模型相关热帖合集（持续更新） 三叶虫 3 回复
【全流程完整版】如何注册开发者社区账号并下载 SDK 及文档（建议收藏） Ashelly 12 回复
kubevirt支持MLU fengyunkai 1 回复

精华帖子

Benchmark Docker 申请流程和使用指南 goodchong 21 回复
Proxmox直通-寒武纪MLU fengyunkai 0 回复
【PyTorch 大模型适配】通义千问在寒武纪MLU370板卡上的试用 jyjyjyjyjy 3 回复
FFMpeg-MLU命令行进行抽帧方法总结博博 2 回复
【PyTorch 大模型移植】CogView2适配 jyjyjyjyjy 0 回复