本文作者:kris

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

kris 2025-02-23 19:13:45 3
简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效摘要: 宝子们好呀!我是你们的老朋友 sevokk,又和大家见面啦!相信大家都知道DeepSeek目前是的火爆程度有多高。官方服务经常出现宕机的情况,虽然,...

宝子们好呀!我是你们的老朋友 sevokk,又和大家见面啦!相信大家都知道DeepSeek目前是的火爆程度有多高。官方服务经常出现宕机的情况,虽然,官方服务正在逐渐恢复,但由于访问人数实在过多,经常出现访问不正常现象,因此,很多用户为了能够正常使用 DeepSeek 都选择了进行本地部署。

本地部署DeepSeek涉及到几个关键步骤:准备环境、下载和安装Ollama、下载DeepSeek模型、配置环境变量(可选)、防火墙设置(可选)以及启动DeepSeek。在开始本地部署之前,需要确保你的计算机满足最低的硬件要求。DeepSeek的最低配置要求包括支持AVX2指令集的CPU、16GB内存和30GB存储空间。

https://ollama.com

首先下载和安装Ollama,Ollama是一个用于本地运行和部署大型语言模型的开源工具,支持多种模型,包括DeepSeek-R1。你可以访问Ollama官网,点击Download下载安装包。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

Ollama官网上提供了适用于Windows、macOS和Linux三个操作系统的安装包。可以根据你的电脑系统,选择对应的版本进行下载。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

嫌下载慢的也可以直接去找网友要网盘下载ollama压缩包。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

解压后选择start-ollama打开,注意这里不要选择exe后缀文件打开哦。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

安装完成后验证一下安装是否成功,在该文件夹页面空白处鼠标右键选择终端打开,输入 ./ollama 并按回车,出现上面命令字符便是安装成功。

如果是Mac系统,需要打开Terminal应用程序。在终端中输入ollamahelp并按回车键,若没有报错,则表示安装成功。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

接着回到ollama官网,选择中间的DeepSeekR1模型下载并安装。DeepSeek R1 提供了多个不同大小的模型,占用的硬盘空间是不一样的。

像deepseek-r1:1.5b 版本需要 1.1GB 空余空间;deepseek-r1:7b 版本是需要 4.7GB 空余空间;deepseek-r1:8b 版本需要 4.9GB 空余空间;deepseek-r1:14b 版本需要 9GB 空余空间;deepseek-r1:32b 版本则需要 20GB 空余空间。性能更为强大,大家可以根据自己的使用需求来选择。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

点击复制模型链接,粘贴到Cmd命令符页面对话框,回车。另外下载速度相当不稳定,可以试试Ctrl+C,输入 ./ollama run deepseek-r1:14b (这里填你复制的模型,我下的是14b)。

因为Ollama默认安装在C盘,并且模型会占用比较大的空间,非常的不友好。下面我来教大家更改Ollama模型的储存位置。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

流程:点击“系统信息 > 高级系统设置 > 环境变量,下方新建 > 输入变量名OLLAMA_MODELS > 点击浏览目录并自行选择地方储存。

其实,选择模型更重要的是根据自己的显存大小来选择合适的版本。DeepSeek部署时对显存的要求与模型规模密切相关,理论上运行1B参数的模型需要的显存大小等于4GB乘以1.2,跑14B的模型就需要67GB的显卡内存,但是ollama上的Deepseek是蒸馏以及量化过的,所以对显存的需求就要小很多了,以下是不同规模模型的大致显存需求:

deepseek-r1:1.5b:集成显卡以及4GB内显存的低端显卡,适用于一般文字编辑使用;

deepseek-r1:7b:推荐4~6GB显存独立显卡,可用于本地开发测试等场景。

deepseek-r1:8b:推荐6~8GB显存独立显卡,需更高精度的轻量级任务。

deepseek-r1:14b:需10~16GB显存,可用于企业级复杂任务等场景。

deepseek-r1:32b:需要24GB+显存,适合高精度专业领域任务等场景。

deepseek-r1:70b:通常需多显卡并行,适合科研机构等进行高复杂度生成任务等场景。

deepseek-r1:671b:所需显存高达1342GB,这种情况通常要求使用多GPU,比如16张NVDIA-A100 80GB显卡。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

这次我使用的显卡是来自intel核心合作品牌蓝戟最近推出的B580 Photon,得益于技术及架构上的全面的升级,相较上代产品,B系列显卡无论是性能、功耗、视频编码还散热等方面,都有着更优异的表现。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

显卡整体延用了蓝戟经典的NEO美学设计,正面交错着网纹线条,给人一种硬朗、刚毅的感觉,含挡片的尺寸为313*130*52 mm,可以满足绝大多数机箱装机。全新的幽刃散热设计, 幽刃环形扇叶,仿波浪曲线造型,对比之前方案,噪音降低 11%,风压提升 26%,确保优异的散热效果,剪辑渲染、跑图跑AI时能有更低的温度和更安静的表现。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

硬件方面,B580采用的是BMG-G21 GPU,它拥有5组渲染切片,20个Xe核心,160个XMX矩阵引擎,20个光追单元,10个像素后端和20个像素采样器,拥有18MB L2缓存,2个Xe媒体引擎。相对于公版卡,蓝戟B580 Photon的默认频率是2850MHz,8+4相供电,双8PIN供电,TBP功耗可以给到223W。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

并搭配12GB的GRRD6显存,显存位宽192bit,带宽456GB/s,显存频率2375MHz。它定位于2K游戏市场,价位比同级竞争对手RTX4060和RX 7650gre更具性价比。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

XeSS技术也随着Xe架构的更新升级到第二代,引入了两项新技术,XeSS帧生成(XeSS-FG)和Xe低延迟(XeLL),实现更强的帧率提升与延迟降低 。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

我们来看看显卡的基准性能跑分。Time Spy是针对DirectX 12游戏中2K分辨率下的性能指数。实测下来,默认频率下蓝戟B580 Photon总分15127,其中显卡得分14875,2K画质下市面上3A游戏基本都能畅玩,跑Deepseek自然也不在话下。

接着咱们可以配置环境变量,当然这过程没有特殊需求也可以直接PASS。配置环境变量需要在Windows系统 指定Ollama的模型存储位置和监听地址。以设置 OLLAMA_MODELS 变量来改变默认的模型存储目录,设置 OLLAMA_HOST 变量来指定Ollama的监听地址(默认为127.0.0.1),以及设置 OLLAMA_ORIGINS 变量来允许HTTP请求。这些设置需要在重启电脑后才能生。

如果你是公司用户,那么就有外网安全性需求,这里建议设置防火墙,在防火墙中添加入站规则,允许Ollama使用的端口通过。例如,如果Ollama使用的是默认端口11438,需要在防火墙中添加一条规则,允许外部访问该端口。

接着通过Ollama启动DeepSeek模型,在终端中输入相应的命令,如 ollamarundeepseek-r1:14b ,即可下载并运行指定版本的DeepSeek模型了。

https://web.chatboxai.app/

https://cherry-ai.com/download

这里为了方便大家使用,顺便教大家如何添加UI对话框,主流的有Chatbox和Cherry Studio,这里我推荐使用Cherry Studio,在浏览器中登陆上面网站,点击上方链接选择你喜欢的平台下载并安装即可。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

Cherry Studio 是一款支持多个大型语言模型接口的开源桌面客户端,作为一款前端整合UI工具,能让你快捷方便的连接和使用不同的语言模型,几乎所有在线或者本地接口都可以直接对接,而无需在各个网页或应用之间切换。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

模型服务日选择ollama,开启,其他的大语言模型服务都有可以通过网络了连接实现 。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

点击管理,选择已部署好的Deepseek模型。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

通过以上步骤,你应该能够在本地环境中成功部署并能在UI里运行DeepSeek了,接着就和这个“网红”深入交流吧。

简单几招教你本地部署DeepSeek,配合Cherry studio稳定高效

实测蓝戟B580跑DeepSeek 14b的内存占用是14G,16G内存勉强能应付,32G内存更好,毕竟内存现在几乎白菜价。需要注意是DeepSeek对显存的占用,没跑太复杂的内容,这时显存占用已经达到了9.2G,也就是小于等于8GB显存的显卡运行DeepSeek 14b非常吃力,好在市面上还有蓝戟这样大显存的性价比显卡在,低成本也能畅玩Deepseek,玩游戏做生产力工具都很给力,而且蓝戟B580 Photon显卡在性能、散热、功耗以及静音表现上都令人满意,如果你着眼于主流游戏表现和高性价比生产力配置,蓝戟B580 Photon无疑是个非常不错的选择。

好了,这次分享就到这,如果你有什么疑问,欢迎在评论区给我留言,我会第一时间回答的!感谢您的观看,爱你们哟。 最后,别忘了点赞、收藏、关注我哦,我们下次再见啦!

本文来自:什么值得买

文章版权及转载声明

作者:kris本文地址:https://www.damoyx.com/p/36035.html发布于 2025-02-23 19:13:45
文章转载或复制请以超链接形式并注明出处大漠游侠网

阅读
分享