一、总结
二、写在前面
自从 Deepseek-r1 爆火,B站上就爆出了一大批视频,教学 r1 模型的本地部署,不限配置,但是呢,稍微动脑想想,这都是不可能的,为什么大家会有如此的概念,感觉自己部署的就是 r1 呢?可能是来自于 Ollama 的干扰。
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/a7f072f018c752dcd22c4ae4948897f8.jpg.png)
但是呢,Ollama 的介绍中也写明了,这其中,有六个是基于 Llama 和 Qwen 从 DeepSeek-R1 提炼出的六个密集模型。
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/01660786621eba511d1e5264b03da133.jpg.png)
意思也就是1.5b,7b,8b,14b,32b以及70b这些模型并非真 DeepSeek-R1,真 DeepSeek-R1 只有 671b 模型
所以说,真正的 R1 模型需要的硬件水平并非大多数人可以承受的,根据极客湾云飞估计,部署DeepSeek-R1 671b需要至少10张 H100 显卡,且不说能不能买得到,但就价格就已经让多数人望尘莫及了。
三、本地部署的意义
为什么还是有人需要本地部署呢?本地就意味着非联网的,你可以把自己的数据存留在本地,适用于一些私密性的内容训练,或者说不适用于公开信息的内容训练。
例如:政府部门、大型国有企业。
四、本地部署
我可以部署一个小模型玩儿玩儿么?
当然可以,根据你自身的实际硬件情况,DeepSeek-R1 还提供了精炼模型。
以我自身实际配置举例:
CPU:i5-12400F
GPU:RXT 1660(6G)
RAM:32G
综上,我选择了8b模型
部署步骤:
Ollama 首先下载并安装 Ollama
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/e678c577435d174922aca70dd5ef705f.jpg.png)
就跟正常软件安装一样,下载完成安装包即可安装。
安装完成之后,打开CMD,输入ollama,如出现如下提示即表示安装成功
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/a6d0c835c6fe0224b25b95bec1c757c1.jpg.png)
再次打开 ollama 网站,搜索 deepseek-r1,复制如下代码
ollama run deepseek-r1:8b
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/1be68ec67ed4b0a95b04d1c8b83309a4.jpg.png)
并将其粘贴入命令行中,回车后,模型就自动开始下载了
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/0e79e2690cd5844eec9e7cc947e50586.jpg.png)
只要网络环境好,整个过程还是很丝滑的
问题
部分人下载完成后可能会出现如下问题
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/bce22bb5283bbe077cc761dc526e118e.jpg.png)
系统提示错误
Error: Post "http://127.0.0.1:11434/api/show": dial tcp 127.0.0.1:11434:connectex:No connection could be made because the target machine actively refused it.
解决办法很简单
配置环境变量
我的电脑-属性-高级系统设置-环境变量
在用户变量中新建如下变量,值为*
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/24205df28848172e4c62f1fffb8e8038.jpg.png)
之后再重新运行上段代码
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/caefa0dfd6ca1890b48ed657f0eabb0a.jpg.png)
直到出现 success ,即表示安装成功,这时你就可以直接在其中进行对话了,是不是还挺简单的呢?
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/ce0ecd6757c1965778b0a8d5b74e8a02.jpg.png)
你好!我是一个AI助手,由中国的深度求索(DeepSeek)公司独立开发,我没有个人身份,但随时准备为您提供帮助和信息。有什么我可以为您效劳的吗?
这是一份来自于 deepseek-r1:8b 模型给出的自我介绍,对比一下官网在线版
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/a2cb23dda67a473d3e2bcb65390f398e.jpg.png)
显然,模型大了确实是不一样的
大家好!我是一个AI助手,由中国的深度求索(DeepSeek)公司开发,专注于用通用人工智能技术帮助用户高效获取信息、解决问题。我的能力涵盖知识问答、逻辑推理、创意激发等多个领域,并且支持多语言交互。通过持续学习更新知识库,我会努力提供更准确、实用的帮助。无论是学习、工作还是生活中的问题,欢迎随时向我提问哦!
可以看出,连思考的过程以及内容也是不一样的,但是,你如果是用来训练自己的知识库的话,我觉得这也足够使用了,运行过程中系统的占用情况如下
![DeepSeek R1 我可以进行本地部署吗?](https://sky.77yn.cn/data/images/2025-02-04/86e34a841355a4976b9c0e2e918462ee.jpg.png)
显存占用 5.1GB,共享内存占用 1.9GB 还是有冗余的,本地回答过程不能说丝滑
五、尾巴
这篇文章基本上可以解答大多数人的疑惑了,编写过程难免错漏,如各位大佬发现谬误之处,请及时在评论区予以指出,不胜感谢!
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
本文来自:什么值得买