×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

【开发者学院】PyTorch 理论基础课程上新~(本文附课后小练习答案) 三叶虫2022-09-08 16:28:08 回复 查看 社区交流
【开发者学院】PyTorch 理论基础课程上新~(本文附课后小练习答案)
分享到:

image.png


Cambricon PyTorch 系列课程涵盖基础理论、训练、推理入门,课程目录及课后练习答案如下:


《Cambricon PyTorch 理论基础》


问题1:  Cambricon PyTorch 通过那种方式对原生 PyTorch 进行后端适配?

pytorch原生工程中添加 MLU设备的注册,然后将MLU后端代码封装在Aten模块,并利用Pytorch extension 扩展机制 将catch工程patch回pytorch原生工程,这样pytorch算子接口就可以通过torch tensor、aten ops链接mlu后端aten代码;其中catch工程中的mlu后端aten代码是通过对cambricon cntookit 的封装和使用,实现对计算任务分发到cnnl、mm算子,并下发驱动实现计算


问题2:  Cambricon PyTorch 训推一体架构的后端是如何实现的?

 使用 Cambricon Pytorch 进行训练时,使用cnnl后端,有4种训练模式分别为:量化感知训练、分布式训练、混合精度训练、单机单卡浮点训练。完成训练得到浮点模型,其中训练时mlu不支持的算子也会自动使用cpu进行训练;

使用 Cambricon Pytorch 进行推理时,有Eager 模式和 Jit模式,Eager 模式只能使用 float精度进行推理,Jit模式可以选择int量化或者float模式

 

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭