全部回复
LV.2
#4
白堊紀
回复
#3
guowenxin
回复
分层量化和分通道量化是量化的不同方案,影响量化精度和推理性能。开启量化是为了加速推理过程。
嗯 学习了 谢谢
2021-07-27 17:54:20
0
|
回复
LV.1
#3
hwj
回复
#2
白堊紀
回复
嗯 。 这就是所谓的分层量化吧
分层量化和分通道量化是量化的不同方案,影响量化精度和推理性能。开启量化是为了加速推理过程。
2021-07-27 16:50:13
0
|
回复
LV.2
#2
白堊紀
回复
嗯 。 这就是所谓的分层量化吧
2021-07-26 11:31:36
0
|
回复
LV.2
#1
jiapeiyuan
回复
您好,卷积/全连接 这一类张量运算单元都是以int8或int16进行计算的,所以模型运行前,都需要先获取到量化参数才能计算
2021-07-26 10:46:18
0
|
回复
请
登录
后评论