打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
本文介绍如何在寒武纪MLU智能加速卡上进行各类常用算法移植。整个移植过程大体可分为环境准备、模型量化、在线推理、生成离线模型、离线推理、性能测试、精度测试共七个步骤,以下概要描述整个移植过程。详细内容参见相关移植套件dev-env-ubuntu。
1.环境准备
1.1.准备物理环境
1.2.获取开发资料
1.3.安装MLU驱动
1.4.安装Docker
1.5.加载镜像
1.6.启动容器
1.7.设置环境变量
1.8.准备网络模型
1.9.创建模型目录
1.10.进入虚拟环境
2.模型量化
3.在线推理
4.生成离线模型
5.离线推理
6.性能测试
7.精度测试
热门帖子
精华帖子