AMD显卡本地部署DeepSeek教程来啦!轻松体验AI大模型

2025-03-06 07:50  

©原创

打开越牛新闻客户端查看
该功能需要在越牛新闻客户端中使用,是否打开
取消
确定

近期,DeepSeek凭借其出色的表现吸引了全球范围内的广泛关注,众多企业纷纷加入适配行列,力求为用户提供更加高效的服务。对于AI大模型而言,GPU的加持无疑是提升性能的关键,AMD便是其中的佼佼者。无论是Instinct加速卡,还是Radeon游戏卡,AMD均已实现与DeepSeek的完美适配。

令人振奋的是,用户只需拥有一块AMD RX 7000系列的显卡,便可在本地轻松体验DeepSeek的强大功能。这一便捷性无疑为广大用户打开了一扇通往AI新世界的大门。

想要在本地部署DeepSeek?其实操作异常简单。用户只需访问AMD官网,无论是中文版还是英文版均可,搜索“15.1.1”,进入搜索结果中的第一个页面,下载AMD Adrenalin 25.1.1测试版驱动。完成安装并重启计算机后,便可进行下一步操作。

接下来,用户需访问LM Studio的锐龙专栏(https://lmstudio.ai/ryzenai),下载并安装LM Studio for Ryzen AI安装包。运行软件后,点击右下角的设置按钮(支持中文语言),找到并开启“Use LM Studio's Hugging Face”选项。

返回主界面,点击左侧菜单栏的搜索图标,输入“DeepSeek R1”,便可看到一系列已训练好的DeepSeek模型。用户可根据AMD官方推荐列表选择适合自己的模型。例如,旗舰级的RX 7900 XTX可支持高达32B参数的模型,而主流的RX 7600则支持8G模型。

选择合适的模型后,在主界面上方选中它,并调整“GPU Offload”的数值。不同选项的具体含义,用户可自行搜索或咨询DeepSeek官方。模型加载完毕后,用户便可在本地尽情体验DeepSeek带来的便捷与高效。

 

AMD Instinct GPU加速卡也已成功集成DeepSeek V3模型,并对SGLang性能进行了优化,支持完整的671B参数。开发者可借助AMD ROCm平台,快速、高效地开发AI应用。具体操作步骤包括启动Docker容器、使用CLI登陆Hugging Face、启动SGLang Server并部署DeepSeekV3 FP8模型等。基准测试结果显示,该方案在准确率和稳定性方面均表现出色。

(内容来源:ITBEAR科技资讯)


编辑: 冯古川

评论

热评论
  • [[item.passport.nickname]]
    [[item.support_count]]
    回复 复制 举报

    [[item.content]]

    [[item.ip_location_area]] · [[setTime(item.create_time)]] · 回复

    回复 复制 举报
    [[elm.passport.nickname]] 回复 [[elm.reply_obj.nickname]]:[[elm.content]]
新评论
  • [[item.passport.nickname]]
    [[item.support_count]]
    回复 复制 举报

    [[item.content]]

    [[item.ip_location_area]] · [[setTime(item.create_time)]] · 回复

    回复 复制 举报
    [[elm.passport.nickname]] 回复 [[elm.reply_obj.nickname]]:[[elm.content]]
暂无新评论,速抢沙发
写评论
回复:
0 条评论
来说两句吧。。。
最热评论
最新评论
来说两句吧...
已有0人参与,点击查看更多精彩评论
加载中。。。。
表情
打开APP
展开阅读全文
为获得更好的阅读体验请打开APP
小贴士
2步打开 越牛新闻
  • 点击右上角“…” 按钮
  • 使用浏览器/Safari打开
打开APP