切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
MLU370系列AI加速卡
MLU270系列AI加速卡
MLU220系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
QiuJiang
106
积分
8
赞
5
帖子
23
回复
3
收藏
TA的动态
TA的帖子
TA的回复
离线模型 batch_size 和 core 数量问题
我的回复:问题1: 220卡一共4个core,当您需要跑多路时,请根据您的实际需求(延时优先还是吞吐优先)和板卡的资源情况来决定,1batch_4core时模型同一时间输入1张图片且使用4个core来处理,4b4c时模型同一时间输入4张图片且使用4个core来处理。用1b4c来跑4路,当一路在处理时,相较4b4c另外三路等的时间不会太长。最后,跑4路时可以试试看1b4c/1b1c/4b4c ,选一个最匹配您需求的配置来生成离线模型;问题2:使用cnrt 和 pipline(您是指cnstream对吧?)都可以,看您对哪种方式更熟悉。
0
寒武纪的硬件codec支持opencv的接口吗
我的回复:当前ffmpeg是支持的,据了解opencv好像还在开发中?盼官方人员回复一下这个帖子
0
在调试寒武纪Caffe框架的模型时,有哪些可用的精度优化手段?
我的回复:使用int16按理说比int8精度更高吧
0
yolov4问题
我的回复:#1含含回复看着像 mish 算子不支持?那请问什么时候支持呢?
0
【提问】MLU板卡的S4,F4的含义与区别?
我的回复:F:Full的意思,全高全长带风扇,适用于普通pc机,150wS:Small的意思,半高半长不带风扇,专业服务器上使用,70w两款板卡算力相同
0
已有集群加入寒武纪硬件该怎么监控
我的回复:可以使用k8s管理
0
是否支持训练???
我的回复:目前暂时不支持训练的,训练软件栈还在开发中,相信很快就会面世了,期待~
0
ubuntu安装包
我的回复:需要安装 neuware和 cnnl,部分框架现在使用到了cnnl
0
芯片重启记录查看
我的回复:具体220哪个型号呢?M.2还是Edge?视具体形态而定
0
cnrt例程cmake不成功
我的回复:#3Fu回复CMakeLists.txt 修改一下,只保留你对应的板卡型号。看上去是要在什么硬件上跑就指定什么硬件去编译?难道这三种硬件底层架构不同吗?是不通用的吗?
0
上一页
1
...
3
4
5
6
7
8
9
10
11
12
下一页
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2024 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭