基础软件平台
硬件产品专区
经验方案交流区
开发者服务
高校支持
签到
注册 登录
打开微信，使用扫一扫进入页面后，点击右上角菜单，
点击“发送给朋友”或“分享到朋友圈”完成分享
我这边情况是，CPU鲲鹏920 arm架构，显卡是寒武纪MLU370-X4，服务器不可联网，所有东西只能在别的电脑上下载好然后再传到服务器上。
我之前方案是，ragflow+ollama+docker
但是昨天验证过了，ollama确实不调用寒武纪显卡，想换vllm，请问有没有arm架构的镜像
热门帖子
精华帖子
Ashelly
14 回复
三叶虫
6 回复
fengyunkai
1 回复
goodchong
jyjyjyjyjy
Github
开发平台
文档中心
新手必读