×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

关于离线模型推理输出打印时间的理解问题 已解决 cxgk2022-03-31 19:13:51 回复 4 查看 技术答疑
关于离线模型推理输出打印时间的理解问题
分享到:

您好!

Screenshot from 2022-03-31 18-42-30.png

...
 execution time: 105799
dump out time ...: 200 us
post process time ...: 216119 us
 execution time: 105808 
dump out time ...: 24 us
post process time ...: 215330 us
yolov4_detection() execution time: 5.41066e+08 us
Throughput(fps): 9.24177
Latency(ms): 113.845
HardwareLatency(ms): 105.969
Inference count: 5000 times
Using MLU device 0


在270上测试的离线模型:

  1. 执行时间(execution time):是放到270卡上计算的时间吗?

  2. 转储时间(dump out time):是270计算结果放到cpu内存时间吗?

  3. 后处理(post process time):是 画框存储单图片时间吗?

  4. yolov4_detection() execution time: 是计算5000次的平均时间吗?

  5. Latency:这个是什么延时?

  6. HardwareLatency:硬件延迟具体是指什么?


如果评估速度是看yolov4_detection() execution time这个时间吗?


谢谢!




版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭