×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

Profiler怎么看 已完结 天晓得2023-05-09 00:15:30 回复 9 查看 技术答疑 使用求助 经验交流
Profiler怎么看
分享到:

Screenshot from 2023-05-08 09-07-36.png

跑MLP模型的在线推理,我已经将输入放到MLU设备上,为什么还有CPU算子的计算时间,并且CPU算子计算时间,和MLU算子计算时间几乎一模一样?

而且我看CPU进程那写的也是torch_mlu::linear啊?

Screenshot from 2023-05-08 12-09-26.png

并且在大batch_size的情况下,二者的时间会有大量的错开?所以这个CPU时间是包括传输数据的时间吗?

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭