×

签到

分享到微信

打开微信,使用扫一扫进入页面后,点击右上角菜单,

点击“发送给朋友”或“分享到朋友圈”完成分享

支持qwen2.5系统模型推理吗? 已完结 dirdir2025-02-19 11:59:00 回复 1 查看 技术答疑 使用求助 经验交流
支持qwen2.5系统模型推理吗?
分享到:

【寒武纪硬件产品型号】必填*:

必填项,例如:MLU370


【使用操作系统】必填*:国产操作系统 例如:麒麟


【使用驱动版本】必填*:
例如:v4.20.6


【出错信息】必填*:无


【当前已做了哪些信息确认】选填:
支持qwen2.5系列模型,2.5系列 32B和72B模型以及gptq、awq等量化模型的推理吗?都能适配哪些国产操作系统,需要做什么转换吗?

32B的推荐几张卡能达到好的性能?


【参考配置文档链接】选填


【相关日志文档】选填
如有,可附件


【出错代码链接】选填:
github的或gitee的代码的链接,

版权所有 © 2025 寒武纪 Cambricon.com 备案/许可证号:京ICP备17003415号-1
关闭