切换版块
×
基础系统软件平台
模型开发
算子开发与高性能库
智能视频分析SDK
开发环境与部署工具
产品专区
思元【MLU】系列智能加速卡
开发者交流
开发经验分享
资源共享
通知公告
论坛公告
《智能计算系统》
理论课程
实验支持
版块
社区
文档
SDK下载
开发平台
官网首页
注册
登录
注册
登录
LV.1
g824718114
109
积分
3
赞
1
帖子
12
回复
1
收藏
TA的动态
TA的帖子
TA的回复
在MLU端进行超大规模数据测试时如何才能提高精度呢？
我的回复：我直接把(x-y)的结果相乘了z次，在z=2的时候误差很小，但是half类型数据有比较大的舍入误差，这个误差会随z的增加而累积吧
3
在MLU端进行超大规模数据测试时如何才能提高精度呢？
我的回复：#1w3jc 回复小伙子一看就是想拿100啊[图片]^_^
3
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2022 寒武纪 Cambricon.com 备案/许可证号：
京ICP备17003415号-1
关闭
LV.1
Github
开发平台
文档中心
新手必读