您好,已收到,后续安排相关人力进行查看。
您好,yolov5官方模型转离线后,mlu220上推理无结果的原因定位到了吗?
还没有,猜测是后处理的问题准备按照前面的回复,先在mlu270机器上对比一下CPU和MLU逐层的结果按理说量化,转离线成功了,cnrt推理也没有报异常,就应该得到预期结果,否则量化&转离线过程应该提示错误的
我没有mlu270的机器 我正愁着咋搞呢 大佬您要是有眉目了戳一下我 感谢
您好 请问您解决了吗 我也碰到了类似的问题 转换后的模型在220上面推理无检测框
还没有,猜测是后处理的问题
准备按照前面的回复,先在mlu270机器上对比一下CPU和MLU逐层的结果
按理说量化,转离线成功了,cnrt推理也没有报异常,就应该得到预期结果,否则量化&转离线过程应该提示错误的
明白,离线推理阶段是不支持获取指定层的数据了对吧
是得,离线模型算子内部已经融合(全部运行在mlu上),因此中间数据无法获取。
建议您这边先在270平台进行CPU和MLU逐层模式运行对比。
您好,对于模型精度问题,通常是在mlu270环境下先进行逐层、融合模式得测试,无误后再进行离线推理;逐层模式下,可以获取到您说得3个detection层信息。
另外cnrt支持get layer by name一类的接口吗?比如通过接口拿到想要层的数据[1, 18, 80, 80][1, 18, 40, 40][1, 18, 20, 20]然后解析,这样自由度大一点
另外cnrt支持get layer by name一类的接口吗?比如通过接口拿到想要层的数据
[1, 18, 80, 80]
[1, 18, 40, 40]
[1, 18, 20, 20]
然后解析,这样自由度大一点
请登录后评论