您好,并行推理时 cnrtQueue_t 和 cnrtRuntimeContext_t 不可以复用,相关代码可以参考:在线实验 – 寒武纪开发者社区 (cambricon.com),建议先跑通单模型推理之后再做改进。展开
您好,并行推理时 cnrtQueue_t 和 cnrtRuntimeContext_t 不可以复用,相关代码可以参考:在线实验 – 寒武纪开发者社区 (cambricon.com),建议先跑通单模型推理之后再做改进。展开
好的,谢谢您。我在修改后调用
cnmlComputeCastOpForward_V4函数提示
2023-05-22 21:49:13.805096: [cnrtError] [98997] [Card : 0] Error occurred in cnrtSyncQueue during calling driver interface.
2023-05-22 21:49:13.805146: [cnrtError] [98997] [Card : 0] Return value is 477, MLU_ERROR_PV_TIMEOUT, means that "PV timeout"
2023-05-22 21:49:13.805159: [cnrtError] [98997] [Card : 0] mlu unfinished!
麻烦您,这个可能是什么地方出的问题。我在cnml.h头文件中并未找到MLU_ERROR_PV_TIMEOUT的定义,不知道有没有参考文档
您好,并行推理时 cnrtQueue_t 和 cnrtRuntimeContext_t 不可以复用,相关代码可以参考:在线实验 – 寒武纪开发者社区 (cambricon.com),建议先跑通单模型推理之后再做改进。
请登录后评论