×
分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

寒武纪MLU270怎么实现在线推理的性能测试? 已解决 Gary2021-09-26 11:17:20 回复 1 查看 技术答疑 使用求助
寒武纪MLU270怎么实现在线推理的性能测试?
分享到:

在线使用的是量化后的int8模型进行推理,离线模型使用的是生成的.cambricon文件进行推理。

目前使用cnrtexec只针对离线模型进行了FPS和时延的简单测试,那在线模型应该怎么批量测试呢?



版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭