×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

两张mlu-370-s4在arm架构统信v20设备上使用什么方案运行qwen3大模型 已完结 buxiemao2025-06-18 20:01:38 回复 1 查看 技术答疑 使用求助
两张mlu-370-s4在arm架构统信v20设备上使用什么方案运行qwen3大模型
分享到:

 【寒武纪硬件产品型号】MLU370-S4*2;

 【使用操作系统】必填*:统信V20(兼容centos);

 【使用驱动版本】必填*:v5.10.35;

 【使用AI框架】必填*:ollama

 【出错信息】必填*:GPU使用率为0,大模型使用不了GPU

 【操作步骤】选填:

 【当前已做了哪些信息确认】选填:CPU能运行

 【参考配置文档链接】选填:

 【相关日志文档】选填:

 【出错代码链接】选填:


请问有什么较好的方案在这个设备上运行qwen3吗?是内网环境。

版权所有 © 2026 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭