打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
Cambricon PyTorch 系列课程涵盖基础理论、训练、推理入门,课程目录及课后练习答案如下:
《Cambricon PyTorch 理论基础》
问题1: Cambricon PyTorch 通过那种方式对原生 PyTorch 进行后端适配?
pytorch原生工程中添加 MLU设备的注册,然后将MLU后端代码封装在Aten模块,并利用Pytorch extension 扩展机制 将catch工程patch回pytorch原生工程,这样pytorch算子接口就可以通过torch tensor、aten ops链接mlu后端aten代码;其中catch工程中的mlu后端aten代码是通过对cambricon cntookit 的封装和使用,实现对计算任务分发到cnnl、mm算子,并下发驱动实现计算
问题2: Cambricon PyTorch 训推一体架构的后端是如何实现的?
使用 Cambricon Pytorch 进行训练时,使用cnnl后端,有4种训练模式分别为:量化感知训练、分布式训练、混合精度训练、单机单卡浮点训练。完成训练得到浮点模型,其中训练时mlu不支持的算子也会自动使用cpu进行训练;
使用 Cambricon Pytorch 进行推理时,有Eager 模式和 Jit模式,Eager 模式只能使用 float精度进行推理,Jit模式可以选择int量化或者float模式
热门帖子
精华帖子