LV.1

sunxiaofeng

135积分0赞

10 帖子 61 回复 0 收藏

TA的动态

TA的帖子

TA的回复

使用CNML的gather函数与pytorch的gather函数对应问题 我的回复：#1wuwangdong回复请问你代码中的gather_output_mlu = gather_mlu(data_mlu, shape_data, index_mlu, shape_index, CNML_DIM_C , cnrt_queue);函数定义哪儿可以找到？展开链接：https://pan.baidu.com/s/1i2N-kIVKHHdi08ZVgpuyog 提取码：7a8e 老师我将测试数据的输入输出传到网盘上了，如果您有时间麻烦您帮忙看一下，十分感激您的帮助 0

使用CNML的gather函数与pytorch的gather函数对应问题 我的回复：#1wuwangdong回复请问你代码中的gather_output_mlu = gather_mlu(data_mlu, shape_data, index_mlu, shape_index, CNML_DIM_C , cnrt_queue);函数定义哪儿可以找到？展开老师我在pytorch中对W维进行gather，我尝试在cnml中按照NCHW的输入，设置CNML_DIM_C来欺骗芯片处理C维实际是W维。输入的index矩阵为NCHW的四维矩阵（但是我看cnml的官方手册中除了设定的dim外都要求是1维嘛？），最后的结果与pytorch的结果部分相同，我觉得还有我的理解问题。麻烦老师您帮我解答一下 0

使用CNML的gather函数与pytorch的gather函数对应问题 我的回复：#1wuwangdong回复请问你代码中的gather_output_mlu = gather_mlu(data_mlu, shape_data, index_mlu, shape_index, CNML_DIM_C , cnrt_queue);函数定义哪儿可以找到？展开老师您好，函数定义在Inference_offline/Mygather.cpp at main · Sun2018421/Inference_offline · GitHub，非常感谢老师您的帮助 0

连续进行多个离线模型的推理问题 我的回复：#2zhangyanting回复您好，并行推理时 cnrtQueue_t 和 cnrtRuntimeContext_t 不可以复用，相关代码可以参考：在线实验 – 寒武纪开发者社区 (cambricon.com)，建议先跑通单模型推理之后再做改进。展开好的，谢谢您。我在修改后调用cnmlComputeCastOpForward_V4函数提示2023-05-22 21:49:13.805096: [cnrtError] [98997] [Card : 0] Error occurred in cnrtSyncQueue during calling driver interface.2023-05-22 21:49:13.805146: [cnrtError] [98997] [Card : 0] Return value is 477, MLU_ERROR_PV_TIMEOUT, means that "PV timeout"2023-05-22 21:49:13.805159: [cnrtError] [98997] [Card : 0] mlu unfinished!麻烦您，这个可能是什么地方出的问题。我在cnml.h头文件中并未找到MLU_ERROR_PV_TIMEOUT的定义，不知道有没有参考文档 0

连续进行多个离线模型的推理问题 我的回复：想请问连续多个离线模型的逐个推理时，cnrtQueue_t 和 cnrtRuntimeContext_t 数据是否可以复用，以及有没有参考的代码示例。 0

自定义算子torch.ops.torch_mlu.mlunmsthresh测试报错 我的回复：#8fcam回复[图片]parse_core_dump_v4.txt 把.txt去掉。老师您好，我使用您的工具时提示老师请问是否是需要新版本的问题，麻烦老师您了。 0

如何分析pytorch框架向下数据传递过程 我的回复：#3sunxiaofeng回复谢谢您，我按照您所说的解决了问题1和2. 还想问一下您：当数据传递到cnml后，我看都是使用getMluTensorImpl和CreateCnmlTensor函数，是将原先在mlu上的数据包装成CnmlTensor嘛？如果我想检查包装后的数据我改如何查看？我通过在不同语句插入Cout的方式定位发现我的代码出错在自己书写的CNplugin中cnmlComputePluginOpForward_V3中，错误信息如下：因为check ppyolenms是我输出的所以定位到是该语句执行过程出问题，我想排查传入的参数但是都是void**/void*[]类型有点不知道怎么排查，请问您有没有什么好的排查方式，再次感谢您 0

如何分析pytorch框架向下数据传递过程 我的回复：#2AlexLee回复您好，这里其实应该是2个问题，我依次给您解释一下问题1：cnml internal的.cpp将数据输出到.txt文件后，结果不正确的原因？说明：在python代码里，已经将cpu上的数据进行了.to("mlu")的操作，因此调用这个算子时候，在.cpp文件里，相应的source已经是mlu上的tensor了，是不能直接操作的，因此直接写入文件这种操作是不对的，您可以修改代码如下：outfile 0

如何分析pytorch框架向下数据传递过程 我的回复：非常奇怪的是，我将tensor.randn()的数据传递进算子，输出文件中并非为0数据，但是与tensor.rand的数据有部分相同的结果。对于torch.tensor(np.load(XX.npy))的输出到文件中的数据就是于上图中全部为0数据。 0

自定义算子torch.ops.torch_mlu.mlunmsthresh测试报错 我的回复：#3fcam回复可以尝试在 maxThresh.mlu 文件中，注释掉代码。确认问题是否和算子实现相关。老师您调试这种代码有规范的工具或者流程嘛，从上层pytorch调用时是否有工具可以看到函数栈，比如CNGDB或者PDB这种可以可视化数据的 0

上一页 1 2 3 4 5 6 下一页