开发者论坛

全部回复

LV.2 #8 Xinqian回复
#7weijipeng回复
你好，生成离线模型时只有参数设置会影响生成结果，其他环境代码一致的话，应该不会影响到模型生成。
我试了一下，确实是离线模型出现的问题用转的一个yolov5的权重就会报错，但换成一个转的squeeze net的权重就正常
2022-06-10 11:30:11 0| 回复

LV.1 #7 weijipeng回复

#6Xinqian回复

单独拿出来调用次数跟实际情况一样多，我在debug的时候发现，好像是离线模型文件出现的问题，我换了一个离线模型文件，就正常不报错，用原来那个离线模型文件就会出这个错误。模型在转换成cambricon文件时的什么操作会导致这个错误吗？

展开

你好，生成离线模型时只有参数设置会影响生成结果，其他环境代码一致的话，应该不会影响到模型生成。

2022-06-09 17:39:10 0| 回复

LV.2 #6 Xinqian回复
#5weijipeng回复
您好，对于“单独拿出来能够正常运行不报”，单独拿出来调用次数跟实际情况一样多吗？需要确认下，看着是否可能线程开多了内存不够？dmesg可以看下是不是报OOM了
展开
单独拿出来调用次数跟实际情况一样多，我在debug的时候发现，好像是离线模型文件出现的问题，我换了一个离线模型文件，就正常不报错，用原来那个离线模型文件就会出这个错误。模型在转换成cambricon文件时的什么操作会导致这个错误吗？
2022-06-09 09:38:11 0| 回复
LV.1 #5 weijipeng回复
#4Xinqian回复
请问还有什么其他解决方法吗
您好，对于“单独拿出来能够正常运行不报”，单独拿出来调用次数跟实际情况一样多吗？需要确认下，看着是否可能线程开多了内存不够？dmesg可以看下是不是报OOM了
2022-06-08 18:11:15 0| 回复

LV.2 #4 Xinqian回复

#1weijipeng回复

您好，由于每个CNRT Runtime Context调用的卷积核张量和指令是相同的，所有线程可以共享一个CNRT Runtime Context卷积核张量和指令的内存空间。用户可以先创建一个原始的CNRT Runtime Context，再通过cnrtForkRuntimeContext()接口复制出一个CNRT Runtime Context。因此，对于多线程，建议您把上述代码“cnrtRuntimeContext_t tmp_ctx;”向上移动两行到for循环外看看是否有效。

展开

请问还有什么其他解决方法吗

2022-06-08 17:20:45 0| 回复

LV.2 #3 Xinqian回复

#1weijipeng回复

您好，由于每个CNRT Runtime Context调用的卷积核张量和指令是相同的，所有线程可以共享一个CNRT Runtime Context卷积核张量和指令的内存空间。用户可以先创建一个原始的CNRT Runtime Context，再通过cnrtForkRuntimeContext()接口复制出一个CNRT Runtime Context。因此，对于多线程，建议您把上述代码“cnrtRuntimeContext_t tmp_ctx;”向上移动两行到for循环外看看是否有效。

展开

尝试过了，把它移到循环外还是报相同的错误，且用上了多张卡，后续计算是正确的

2022-06-08 17:20:15 0| 回复

LV.2 #2 Xinqian回复

#1weijipeng回复

您好，由于每个CNRT Runtime Context调用的卷积核张量和指令是相同的，所有线程可以共享一个CNRT Runtime Context卷积核张量和指令的内存空间。用户可以先创建一个原始的CNRT Runtime Context，再通过cnrtForkRuntimeContext()接口复制出一个CNRT Runtime Context。因此，对于多线程，建议您把上述代码“cnrtRuntimeContext_t tmp_ctx;”向上移动两行到for循环外看看是否有效。

展开

好的，谢谢

2022-06-08 10:44:47 0| 回复

LV.1 #1 weijipeng回复

您好，由于每个CNRT Runtime Context调用的卷积核张量和指令是相同的，所有线程可以共享一个CNRT Runtime Context卷积核张量和指令的内存空间。用户可以先创建一个原始的CNRT Runtime Context，再通过cnrtForkRuntimeContext()接口复制出一个CNRT Runtime Context。因此，对于多线程，建议您把上述代码“cnrtRuntimeContext_t tmp_ctx;”向上移动两行到for循环外看看是否有效。

2022-05-30 10:51:05 0| 回复

请登录后评论