打开微信,使用扫一扫进入页面后,点击右上角菜单,
点击“发送给朋友”或“分享到朋友圈”完成分享
最近拿到了实验室的一块370的卡,想和A10对比下性能测试.
比如bert 模型,输入有: input_ids,attention_mask,token_type_ids,如下图:
通过NV 可以直接运行测试,很容易:
trtexec --onnx=/workspace/bert- .onnx --shapes=input_ids:1x128,attention_mask:1x128,token_type_ids:1x128 --fp16 --iterations=20 --duration=20
通过magicmind 应该如何运行呢?研究了下都不是很清楚。benchmark的guide 也都是单输入的rn50这种模型,求大神指导~~
热门帖子
精华帖子