许可优化
许可优化
产品
产品
解决方案
解决方案
服务支持
服务支持
关于
关于
软件库
当前位置:服务支持 >  软件文章 >  MI50 32G在deepin系统跑deepseek怎么操作

MI50 32G在deepin系统跑deepseek怎么操作

阅读数 6
点赞 0
article_banner


我是deepin v23系统日常办公,一直想部署本地模型,目前比较火的显卡基本上就是那些,tesla T10 v100 ,intel a770 16G价格都还能勉强接受,但是无奈显存只有16G 单卡能跑14B不能32B,听闻32B才能不那么ZZ,所以一直心心念念能找到一块支持32B的显卡,显存得20多G 。直到有一天,他出现了在B站刷到了一个卡,AMD计算卡,只支持linux,价格低于1000,于是果断借钱购入。

实际上显卡装上了没有装驱动设备管理自动识别了名字,为了以防万一,我还是安装了amd官方的驱动,虽然deepin是基于Debian系统的,还是可以运行乌班图的那个驱动deb文件。然后直接把ollama的一键安装命令梭了一把,我这边是把当前用户加入ollama的那个用户组失败了的,运行的时候没有正确使用显卡,手动启动的时候把看不懂的日志丢给了AI 解释的是没有权限,后来把当前用户加入提示的那个用户组,就可以直接用显卡跑了。

我这里遇到了一个坑,让我苦恼了一个星期,就是我安装好的时候能正常调用显卡跑模型,但是一旦重启了,开机就会有很久,进入桌面后再跑,就进不了系统了,重新安装又能跑,重启又不行了。直到有一天我把我的电脑照片发在一个QQ群

他问了一句:你的延长线是不是有问题?

于是我陷入了沉思,上网搜了一下搜到了mi50 16G的是支持pcie4.0的,难道我这显卡也是 4.0,但是我的延长线是3.0的,待我修改主板的显卡pcie为3.0,开机,run模型,一切再次正常了!


免责声明:本文系网络转载或改编,未找到原创作者,版权归原作者所有。如涉及版权,请联系删

相关文章
技术文档
QR Code
微信扫一扫,欢迎咨询~
customer

online

联系我们
武汉格发信息技术有限公司
湖北省武汉市经开区科技园西路6号103孵化器
电话:155-2731-8020 座机:027-59821821
邮件:tanzw@gofarlic.com
Copyright © 2023 Gofarsoft Co.,Ltd. 保留所有权利
遇到许可问题?该如何解决!?
评估许可证实际采购量? 
不清楚软件许可证使用数据? 
收到软件厂商律师函!?  
想要少购买点许可证,节省费用? 
收到软件厂商侵权通告!?  
有正版license,但许可证不够用,需要新购? 
联系方式 board-phone 155-2731-8020
close1
预留信息,一起解决您的问题
* 姓名:
* 手机:

* 公司名称:

姓名不为空

姓名不为空

姓名不为空
手机不正确

手机不正确

手机不正确
公司不为空

公司不为空

公司不为空