×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

自研模型转化为离线模型后模型大小增加近10倍 已解决 sungg829012022-02-22 20:53:13 回复 1 查看 技术答疑
自研模型转化为离线模型后模型大小增加近10倍
分享到:

自研一个轻量级模型,量化后模型大小基本无变化,但按照说明文档转化为离线模型后,模型大小从1.1M  变为10M-15M之间(根据batchsize和corenum大小会变化),请问离线模型转化时都做了什么?模型增大后貌似计算量也增加了,推理时延增加,请问这个问题如何解决?

版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭