切换版块
×
基础软件平台
PyTorch开发
TensorFlow开发
编解码及SDK开发
BANG语言与计算库
开发工具链
MagicMind开发
软件栈百科
云平台集成
硬件产品专区
大模型专区
寒武纪® AIDC® MLU370®系列加速卡
MLU200系列AI加速产品
经验方案交流区
经验案例与实践分享
开发者服务
开发者活动
公告与版务
高校支持
《智能计算系统》
签到
版块
社区
文档
SDK下载
370系列
200系列
开发平台
官网首页
注册
登录
全部版块
基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
发布新帖
登录/注册
LV.1
QiuJiang
106
积分
8
赞
5
帖子
23
回复
3
收藏
TA的动态
TA的帖子
TA的回复
离线模型 batch_size 和 core 数量问题
我的回复:问题1: 220卡一共4个core,当您需要跑多路时,请根据您的实际需求(延时优先还是吞吐优先)和板卡的资源情况来决定,1batch_4core时模型同一时间输入1张图片且使用4个core来处理,4b4c时模型同一时间输入4张图片且使用4个core来处理。用1b4c来跑4路,当一路在处理时,相较4b4c另外三路等的时间不会太长。最后,跑4路时可以试试看1b4c/1b1c/4b4c ,选一个最匹配您需求的配置来生成离线模型;问题2:使用cnrt 和 pipline(您是指cnstream对吧?)都可以,看您对哪种方式更熟悉。
0
寒武纪的硬件codec支持opencv的接口吗
我的回复:当前ffmpeg是支持的,据了解opencv好像还在开发中?盼官方人员回复一下这个帖子
0
在调试寒武纪Caffe框架的模型时,有哪些可用的精度优化手段?
我的回复:使用int16按理说比int8精度更高吧
0
yolov4问题
我的回复:#1含含回复看着像 mish 算子不支持?那请问什么时候支持呢?
0
【提问】MLU板卡的S4,F4的含义与区别?
我的回复:F:Full的意思,全高全长带风扇,适用于普通pc机,150wS:Small的意思,半高半长不带风扇,专业服务器上使用,70w两款板卡算力相同
0
已有集群加入寒武纪硬件该怎么监控
我的回复:可以使用k8s管理
0
是否支持训练???
我的回复:目前暂时不支持训练的,训练软件栈还在开发中,相信很快就会面世了,期待~
0
ubuntu安装包
我的回复:需要安装 neuware和 cnnl,部分框架现在使用到了cnnl
0
芯片重启记录查看
我的回复:具体220哪个型号呢?M.2还是Edge?视具体形态而定
0
cnrt例程cmake不成功
我的回复:#3Fu回复CMakeLists.txt 修改一下,只保留你对应的板卡型号。看上去是要在什么硬件上跑就指定什么硬件去编译?难道这三种硬件底层架构不同吗?是不通用的吗?
0
上一页
1
...
3
4
5
6
7
8
9
10
11
12
下一页
Github
开发平台
文档中心
新手必读
官方微信
版权所有 © 2025 寒武纪 Cambricon.com 备案/许可证号:
京ICP备17003415号-1
关闭