Cambricon Neuware运行时库（Cambricon Neuware Runtime Library，CNRT） 提供了一套面向Machine Learning Unit(MLU)设备的high-level接口，用于完成主机与MLU设备之间的交互。CNRT作为Cambricon Neuware软件系统最底层支撑，所有其他的Cambricon Neuware软件运行都需要调用CNRT接口。

  CNRT主要包含以下功能：

• Device管理

• Memory管理

• Stream管理

• Event管理

• 执行控制

• 离线模型运行

Device管理模块提供了管理设备的接口。如：设备初始化，设备查询，设备指定等。

Memory管理模块提供了内存管理的接口。如：内存分配，内存释放，内存拷贝等。

Stream管理模块提供了Stream相关接口。如：Stream创建，销毁，同步等。

Event管理模块提供了Event相关接口。如：Event创建，销毁，等待等。

执行控制模块提供了控制MLU执行计算的接口，支持异步、并发、调度等基本功能。