CNSTREAM是面向MLU100的流处理SDK。CNSTREAM可以大大简化MLU100提供的推理能力和其他处理（如视频解码）的集成。CNSTREAM在兼顾灵活性的同时，可以充分发挥MLU的硬件解码和机器学习算法运算的性能。CNSTREAM提供了一套插件系统，用户可以根据CNSTREAM提供的API实现自己的组件，通过组件之间的互连灵活地实现自己的需求。

CNSTREAM基于模块化和流水线的思想，提供了一套C++语言的API，CNSTREAM提供了神经网络必须的推理模块，用于流处理的可多路并发的PIPELINE框架和可自定义的插件机制以及模块间数据传输的通用Tensor类型以满足性能和可伸缩性需求。并且，针对视频结构化领域，CNSTREAM提供了3个通用功能模块：视频解码模块、 机器学习算法运算模块和颜色域转换模块，其中视频解码模块可以对多种格式的视频压缩格式进行解码。机器学习算法模块可以使用多种神经网络离线模型对解码得到的图象数据进行神经网络推理。CNSTREAM的插件式设计提供给用户对视频流解码和推理之后，对数据进一步加工处理的办法。

视频解码模块依赖于CNCODEC SDK（MLU视频解码SDK），机器学习算法运算模块依赖于CNRT，CNSTREAM以用户的角度提供了3个自定义示例模块：数据前处理模块、数据后处理模块和多媒体显示模块。

CNSTREAM具有以下几个特点：

l  支持解码常见的视频压缩格式（H264、H265、MPEG）

l  支持硬解码JPEG图片格式(1080P,720P)

l  快速简单部署机器学习算法，高效支持常见分类以及目标检测神经网络（VGG、ResNet、Faster R-CNN）；高效支持低位宽（int8）及稀疏权值运算）；

l  灵活可变的流水线设计和插件集成机制。