全部回复
LV.3
#1
doraiba2022
回复
您好,在线推理的latency和throughput的计算公式是对的,但是代码有几个问题。(1)没有加入warmup,导致时间不准确。(2)hardware的准确时间需要用环境变量来看。需要设置export CNRT_PRINT_INFO=1和CNRT_GET_HARDWARE_TIME=1。另外,throughput的含义其实就是指FPS
2021-10-12 10:54:45
0
|
回复
请
登录
后评论