×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

离线推理示例程序mlp的疑问 已解决 lyt_10102021-04-09 17:49:56 回复 14 查看 PyTorch 思元270
离线推理示例程序mlp的疑问
分享到:

我看了寒武纪运行时库用户手册中mlp的离线模型示例程序,里边包含了离线模型加载及计算过程。

链接如下:https://www.cambricon.com/docs/cnrt/user_guide_html/example/offline_mode.html#offlinesample

这里的初始化设备和加载离线模型我大概明白了,但是不太理解数据是怎么输入的

QQ图片20210409172957.png

就是上图的部分,

1.因为我看用户手册上说cnrtGetInputDataSize()和cnrtGetOutputDataSize()API可以获得输入和输出数据的内存大小,这个大小是如何计算出来的呢?

1)是人为给定的?2)还是通过数据机器自己计算的?

2.数据是如何到cpu上的呢?

void **inputCpuPtrS = (void **)malloc(inputNum * sizeof(void *));

void **outputCpuPtrS = (void **)malloc(outputNum * sizeof(void *));

这两句话是怎么把数据准备到cpu上呢?数据的接口在哪里?

3.int64_t *inputSizeS, *outputSizeS;这句话的inputSizeS和outputSizeS是输入数据、输出数据的位置吗?还是其他的意思?

不好意思,我上个月底刚接触这个,可能问的问题有些幼稚,希望各位大佬多多担待!

QQ图片20210409174930.gif


版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭