我的量化结果和cpu差距不是很大,是使用torch.jit.trace生成离线模型的时候结果不对,而且每次结果都不一样。
您好,我们暂未开放相关工作群,如果您需要相关技术服务,请联系我们销售人员sales@cambricon.com;能否贴一下您在量化模型时使用的具体配置?
不然论坛发帖回复要等一天
或者留个微信还是工作群,方便交流下
您好,在使用mlu推理时,我们把数据从INT64转为INT32,不影响推理结果的正确性,可以忽略该警告;您可以尝试一下不进行量化生成magicmind模型进行推理,看看结果是否正确。
每次生成cambricon模型测试输出结果还不一样
请登录后评论