基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
签到
注册 登录
打开微信，使用扫一扫进入页面后，点击右上角菜单，
点击“发送给朋友”或“分享到朋友圈”完成分享
用一张MLU370-X4，部署deepseek-r1-14b，使用最新镜像中pytorch和transformers推理，生成800字左右就断了，这个是什么原因？
镜像里面的vllm运行的时候，提示无法发现设备。镜像系统是ubuntu的，宿主机是麒麟系统。装驱动时dkms配置出错。
热门帖子
精华帖子
Ashelly
14 回复
三叶虫
6 回复
fengyunkai
1 回复
goodchong
jyjyjyjyjy
Github
开发平台
文档中心
新手必读