×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

进行算子的融合推理加速的原理是什么 官方回复 mcj2022-05-09 15:32:34 回复 4 查看 技术答疑 经验交流 社区交流
进行算子的融合推理加速的原理是什么
分享到:

从寒武纪Pytorch用户手册中了解到融合是将所有CNML支持的算子构成一个融合子图,那这个融合子图指的是融合了conv+bn+relu或者说它可以自动将某些算子组合成新的,然后自动重新计算了权值吗?还是说它是在pytorch的基础上将放到mlu上的算子通过jit.trace额外生成了静态图从而加速推理?

可能我说的不是很清晰,但依旧想明白它融合的意思,希望能帮我解答下?

版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭