寒武纪运行时库-CNRT feng2019-05-16 20:38:38 回复 3 查看 CNRT
寒武纪运行时库-CNRT

Cambricon Neuware运行时库(Cambricon Neuware Runtime Library,CNRT) 提供了一套面向Machine Learning Unit(MLU)设备的high-level接口,用于完成主机与MLU设备之间的交互。CNRT作为Cambricon Neuware软件系统最底层支撑,所有其他的Cambricon Neuware软件运行都需要调用CNRT接口。

  CNRT主要包含以下功能:

  • Device管理

  • Memory管理

  • Stream管理

  • Event管理

  • 执行控制

  • 离线模型运行

Device管理模块提供了管理设备的接口。如:设备初始化,设备查询,设备指定等。

Memory管理模块提供了内存管理的接口。如:内存分配,内存释放,内存拷贝等。

Stream管理模块提供了Stream相关接口。如:Stream创建,销毁,同步等。

Event管理模块提供了Event相关接口。如:Event创建,销毁,等待等。

执行控制模块提供了控制MLU执行计算的接口,支持异步、并发、调度等基本功能。

热门帖子

精华帖子

官方微博 官方微信
版权所有 © 2019 寒武纪 Cambricon 备案/许可证号:京ICP备17003415
关闭