• 

  LV.2 #4 Anomalocaris回复

  #1HelloAI回复

  这得看你的计算规模了，加速你的模型计算量本身就非常小，你还是batchsize=1，可并发处理的并不多，那么多核也并不会带来明显的性能提升，就像你在CPU上跑了一个很小的程序，多线程也并不会带来性能提升。

  展开

  计算量大的模型多核性能会提升的多么？

  2020-12-21 18:02:42 0| 回复
• 

  LV.2 #3 QiuJiang回复

  因为跑多核时，内部是有拆分处理的，这个拆分也是要占一定时间，所以当你计算量小时，若跑多核，可能存在拆分开销大于跑多核节省下来的计算耗时

  2020-12-21 16:05:20 1| 回复
• 

  LV.1 #2 Fu回复

  拆封加大了并行的计算量，但是也带了更大的IO开销

  2020-12-21 15:41:06 1| 回复
• 

  LV.3 #1 HelloAI回复

  这得看你的计算规模了，加速你的模型计算量本身就非常小，你还是batchsize=1，可并发处理的并不多，那么多核也并不会带来明显的性能提升，就像你在CPU上跑了一个很小的程序，多线程也并不会带来性能提升。

  2020-12-21 14:09:53 1| 回复

请登录后评论