本文作者:kris

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

kris 2025-03-04 15:37:50 2
Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置摘要: 哈喽,大家好,我是疯爆银熊……关注我,有金币相送!国产之光要说国内目前最火的AI,那必须是国产之光Deepseek了!其强大的语言理解与生成能力,让...

哈喽,大家好,我是疯爆银熊……关注我,有金币相送!

国产之光

要说国内目前最火的AI,那必须是国产之光Deepseek了!其强大的语言理解与生成能力,让我叹为观止。其优秀的逻辑推理与问题解决能力已经和国际领先的AI大模型相媲美。

当然它最让人惊艳的一点要数低到发指的训练成本。DeepSeek-V3的最终训练成本仅为560万美元,而同类模型的成本估计在6000万美元到10亿美元之间。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

对于有本地部署需求的用户,Deepseek-R1也提供了不同容量的模型,其中14b版本基本够用,对于个人而言是最符合实际需求的,而且它对硬件性能的要求也不是太高,以PC端为例,好点的迷你电脑主机都可以,前提是内存条要大一些,最少32G起步,48和64G更优,为此笔者还出血换了24G*2(48G)的金百达DDR5 6800星刃内存条,看到这的小伙伴记得点个赞让我回回血!

Deepseek搭建方法很多,目前有玩家在NAS中通过Docker容器部署;PC端部署最方便的方式是用Ollama;当然如果你的电脑性能不太够,也可以通过预编译的客户端和应用体验DeepSeek,现在国内很多大厂都有接入,先前笔者就常用KZZI的AI键盘(已接入Deepseek-R1模型)查找素材,内容确实更精准和详实。

本地化部署DeepSeek的好处

尽管Deepseek不用部署也能畅玩,但随着用户的增多,系统死机也偶有发生,同时本地部署也好处多多,有条件的建议都搞一个。

数据防护更安全

本地化部署则意味着所有数据和算法都保存在本地服务器上,无需上传到云端或第三方服务器,对于注重隐私的用户而言,这种方式能够显著降低数据泄露的风险。

高可控、高定制

每个人对AI的需求不一样,本地化部署可以让用户根据自身硬件配置调整软件更新、模型参数等。同时本地部署的AI用户也可以根据自身风格进行训练,从而提升相关业务性能和效率。

延迟更低,稳定性可靠

本地化部署无需依赖网络连接即可运行,所以不用考虑网速带来的延迟问题,只要你的硬件够强,它的速度就能更快。另外因为不依赖网速,所以也能有效避免外部因素对本地服务器的干扰,让AI系统更稳定。

Deepseek-R1搭建过程

今天简单跟大家分享下Deepseek搭建过程,然后分享下我目前配置跑14b的Deepseek-R1感受任何。想要自建本地AI的小伙伴记得收藏哈!

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

因为是PC端部署,所以少不了Ollama这款工具的帮忙,但是因为这款工具的服务器在国外,所以下载速度奇慢,这里分享个超快的办法,那就是把安装包的下载链接丢给迅雷去下载,亲测速度提升很大!

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

下载安装完成Ollama这款工具后,继续到Ollama官网然后Models栏目中找到deepseek-r1模型点击进入就能看到各种参数的模型。模型越大占用存储越多,大家根据自身需求选择。选取好模型后,在模型右侧有一个命令行需要我们点击复制。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

Ollama 安装完成后,我们需要在电脑搜索框中输入cmd打开命令行,然后将14b命令“ollama run deepseek-r1:14b”输入到命令行中并回车。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

此时模型就会自动下载了,我们只需耐心等待下载完成即可。安装结束后,此时14b的Deepseek-R1就已经部署在本地电脑中了,想要随时体验只需调出命令行输入“ollama run deepseek-r1:14b”即可开启AI对话。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

命令行虽然能用但相较于其他AI产品,界面着实不够美观,想要把本地AI打造成更加适合电脑小白使用的工具,我们还需要用到ChatBox这款工具。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

ChatBox本身就是一款功能强大的AI助手工具,它平台多,功能也丰富,如支持将各类文档(PDF、Word、Excel、TXT)和图片上传到系统,让AI理解内容并提供智能分析和响应。

对于程序员和开发者来说,ChatBox还支持Python、Java、JavaScript等多种编程语言的代码生成,并提供语法高亮和实时预览功能。另外它还支持文字转图片。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

对于本地部署的我们而言,只需下载相应版本,然后选择“”Use My Own API Key“这个按钮,找到Ollama API即可。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

温馨提示,这里不建议大家用网页版,因为网页版容易找不到模型,最好下载本地版本,稳定性更好一些。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

下载版本就能很好的识别到AI模型,选择deepseek r1:14b然后点击保存就能在对话框中找到本地模型版本了,而且本地版本在离线时也能使用。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

个人PC配置分享

DeepSeek目前为用户提供了1.5、7、8、14、32、70、671b等多种模型,其中32b及以下的对于家庭用户而言完全够用,同时它们对PC的配置要求也不高,以笔者搭建的14b为例,官方要求显卡最好是16G,但实际上配置稍微差点也没有关系。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

上图是笔者的Pc配置,4060ti(8G版)跑起来毫无压力,这主要得益于笔者的处理器、内存、SSD性能都很不错,一定程度弥补了短板。

1、处理器

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

12600kf不用过多介绍,在13、14代不断缩肛,15代Ultra贵的要死的当下,性价比一路飙升,是目前市面上最值得购买的处理器之一。12600kf采用10核16线程,睿频最高可达4.9GHz,二级缓存9.5MB,三级缓存20MB,额定功耗125W,最大功耗达到150W。并支持全新的PCIe5.0和DDR5内存,价格方面笔者是800+入手的。

2、显卡

映众RTX 4060 Ti 曜夜显卡是一款基于NVIDIA Ada Lovelace架构设计的显卡,采用TSMC 4N制程工艺,拥有4352个CUDA核心,核心频率为2535MHz,显存容量有8GB GDDR6和16G两个版本,显存位宽为128bit,显存频率为18000MHz。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

市面上4060ti显卡很多,之所以选择映众的RTX4060Ti曜夜,之所以选择这个品牌,最大的原因还是比较相信51927大佬的评测。在18款4060Ti短卡中,映众的映雪和曜夜在做工用料、散热、噪音、跑分上的表现还是不错的,均是前几名的存在。

3、内存条

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

内存条方面,笔者原先一直用的是金百达家的白刃16*2 6400MHz套条,它家内存条在稳定性、超频性能上都非常优秀,而且用料做工也没得说。因为放心,为了跑DeepSeek专门升级了24*2(64G买不起的说)6800MHz的金百达DDR5星刃套条,因为不带RGB价格倒是不贵。

肯定会有小伙伴说了,再配两个16G*2组成4通道不就好了,这里跟小白说一下,由于12代处理器的问题,在使用频率较高的内存条时,最好使用2+4通道,强上四通道除了稳定性不行外,而且频率也会被强制降至4800MHz,反而得不偿失。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

因为是新买的,所以多说两句,本来是图便宜买的,但是拿到手后发现金百达DDR5星刃内存条用料上确实没地说,超厚的金属散热板搭配工业散热硅脂让其不仅在散热效果上非常优秀,十层PCB板一定程度延长了它的使用寿命和信号完整性,海力士M-die时序CL32原厂原印颗粒,确保了其性能的可靠性,同时也给有超频需求的小伙伴提供了更多可能。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

当然不超频其6800MHz的基础频率也是非常优秀的,用AIDA64进行跑分成绩比4800MHz状态高很多,写入和复制带宽分别达到了94659MB/S、87421MB/S、85201MB/s,内存的延迟则为67.8ns,此时时序是32-46-46-105 CR2,整体的表现在一众6800MHz内存条上绝对是优秀的存在。

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

价格方面,24G*2套条和别家16G*2差不多,只要800+,性价比还是蛮好的,游戏玩家和AI大模型玩家可以考虑。

4、SSD固态硬盘

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

固态硬盘是笔者在价格高位的时候买的致态的Ti600 PCIe4.0 M.2固态硬盘,这款SSD是致态首款采用了QLC颗粒的SSD产品,在稳定性和速度上均保持了优秀的水平。因为读写速度高到7000M/s,又加上本身不带金属马甲,笔者在拼夕夕花了十几块给他套了一个,安装后散热效果大大提升,有需求的小伙伴可以搞一搞。

笔者当系统盘用了一年多了,稳定性没得说,现在300+的价格性价比也不错,推荐!

5、主板

Deepseek搭建教程,简单配置也能玩转深度AI,文末附PC配置

配电脑的时候一不小心预算总会花超,笔者就属于这类人。其他硬件用的都还好,到了主板钱没多少了,因为想上D5,所以最终选择了国产品牌尔英家的幻翼 Z790 WIFI D5主板,不到800米,本来我是抱着试试的态度,但是目前使用接近一年,期间没有遇到任何问题,我不是那种必须超频的人,所以感觉稳定性还不错。

另外这款主板也有自家的ARGB灯光同步,在重要部分也采用了加强散热装甲,就价格而言,我觉得超值。

总结

好了小伙伴,以上就是关于Deepseek本地搭建的所有内容了,其实过程蛮简单的。比较麻烦的是后期的训练,想要打造属于自己专属的本地化AI,那投喂肯定是少不了的。另外本地AI因为不能调用互联网信息资源,所以局限性还是有的,如果没有特别专业需求,建议还是下载官方APP尝试体验为妙。

我是疯爆银熊……看完的记得点赞收藏关注一波,笔芯……

本文来自:什么值得买

文章版权及转载声明

作者:kris本文地址:https://www.damoyx.com/p/39869.html发布于 2025-03-04 15:37:50
文章转载或复制请以超链接形式并注明出处大漠游侠网

阅读
分享