您好,目前并没有公开更多融合细节,已公开的融合内容您可以参考《寒武纪TensorFlow 融合模式用户手册 — 寒武纪TensorFlow融合模式用户手册 1.4.0 文档 (cambricon.com)》
那这个融合图(大算子)是怎么将多个算子融合成的一个大算子的呢,比如是将多个分支中1x1的CBR像TensorRT一样变成一个大的1x1的CBR?融合的具体细节哪里可以参考吗?
您好,tfu并没有重新计算权值,一个tfu就是一个融合图/node/graph,一个tfu可以理解为一个大算子,图的输入、输出均在ddr上。一个tfu可以拆分成一个或者多个子图,子图的输入、输出均在shared memory上。tfu融合时的动态和静态取决于输入网络的状态。
那这个融合图(大算子)是怎么将多个算子融合成的一个大算子的呢,比如是将多个分支中1x1的CBR像TensorRT一样变成一个大的1x1的CBR?
融合的具体细节哪里可以参考吗?
请登录后评论