本文作者:kris

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略  

kris 2025-03-06 01:22:46 11
性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 摘要: 大家好,最近成功用 Ultra245K 搭建了 DeepSeek 本地模型,体验堪称惊艳!今天就把这份超详细的攻略分享给大家,照着做,你也能轻松拥有...

大家好,最近成功用 Ultra245K 搭建了 DeepSeek 本地模型,体验堪称惊艳!今天就把这份超详细的攻略分享给大家,照着做,你也能轻松拥有自己的本地 AI 助手。

一、前期准备

(一)硬件选择

1. CPU:Intel Ultra245K 是本次的核心硬件,它采用精致小黑盒包装,正面透明窗设计很贴心,能直接看到 CPU。打开包装,正面刻有型号、序列号等信息,还有二维码,背面的凹槽设计让装机定位超方便。而且它自带的高性能核显和 NPU,为后续模型部署打下坚实基础。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

2. 主板:铭宣终结者 B860M 主板是绝佳搭档,12 相供电确保 Ultra245K 稳定运行。它支持双通道 4 根 DDR5 内存,最大可达 128GB,还原生支持 7000Mhz DDR5 内存频率,在高内存负载场景下性能提升显著。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

3. 内存:光威龙武 DDR5 16*2 6000mhz 套条性价比超高,活动价 400 多就能拿下,能满足模型运行的内存需求。

4. 机箱:拓扑龙开放式机箱只要 30 元,实惠又实用,组装也很简单。

5. 电源:爱国者 EP650 650w 全模组电源,200 元左右,供电稳定可靠,为整个系统提供稳定动力。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

(二)软件准备

1. Intel GPU 驱动:前往英特尔官网(https://www.intel.cn/content/www/cn/zh/products/sku/241067/intel-core-ultra-5-processor-245k-24m-cache-up-to-5-20-ghz/downloads.html),根据自己的操作系统下载最新的 GPU 驱动。这一步很关键,它能让核显更好地发挥性能。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

2. ipex-llm ollama 部署包:进入https://github.com/intel/ipex-llm/releases/tag/v2.2.0-nightly,下载 llama-cpp-ipex-llm-2.2.0b20250224-win-npu.zip 到本地,下载完成后解压备用。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

二、装机与性能测试

(一)装机步骤

按照硬件安装说明书,依次将 CPU 安装到主板上,注意对准凹槽。安装内存时,将内存条对准插槽,轻轻按下,听到 “咔哒” 声即安装到位。接着安装机箱、电源等硬件,完成整个装机过程。如果是新手,可以在网上搜索相关装机教程视频,跟着一步步操作。

(二)性能测试

1. 3DMark CPU Profile 测试:运行该测试,它能展示 CPU 在不同核心和线程数下的性能表现。Ultra245K 单线程分数 1213 分,处理单核心任务游刃有余;最大线程得分 12348 分,多任务并行处理能力出色。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

2. CPU-Z 测试:在 CPU-Z 测试中,Ultra245K 单核心 800 分,多核心 10051 分,多核心成绩几乎与曾经的高端处理器 12900K 持平,日常使用和复杂任务处理都能轻松应对。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

三、模型部署与使用

(一)Ollama 启动与模型下载

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

1. 在解压后的 ipex-llm ollama 部署包文件夹里,按住 Shift + 右键,选择 “在终端中打开”。

2. 在终端中输入./start-ollama.bat,此时会弹出一个满是日志的命令行窗口,这代表 Ollama 启动成功,千万不要关闭它。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

3. 在这个打开的命令行窗口中输入.ollama.exe pull deepseek-r1:7b,等待模型下载完成。下载时间根据网络情况而定,需要耐心等待。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

(二)借助 AnythingLLM 使用模型

1. 前往 AnythingLLM 官网(AnythingLLM | The all-in-one AI application for everyone)下载并安装软件。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

2. 安装完成后启动 AnythingLLM 软件。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

3. 在软件的模型选择位置找到 “ollama” 选项,这时就能看到下载好的 DeepSeekR1 模型。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

4. 创建一个工作区,名字可以自行设定,例如 “DeepSeek-iGPU” 。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

5. 选中创建的工作区,点击 “NewThread” 开启新对话,这样就可以和 DeepSeekR1 进行聊天交互了。从任务管理器中可以看到,核显基本满载,使用了 7.2G 主机内存,模型的 token 生成速率约为 10token/s,对于个人日常使用来说,这样的速度足以保证流畅对话。

性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 性价比之选!Ultra245K 搭建 DeepSeek 本地模型全攻略
 

四、NPU 展望

 

Ultra245K 的 NPU 是一大亮点,虽然目前由于其较新,在部署过程中存在一些 bug,但按照 Intel ipex-llm 的更新速度,预计下个月左右就能使用 NPU 进行模型推理和部署,届时性能有望进一步提升。

以上就是用 Ultra245K 搭建 DeepSeek 本地模型的详细过程。如果大家在操作过程中遇到任何问题,欢迎在评论区留言,咱们一起交流解决!

 

本文来自:什么值得买

文章版权及转载声明

作者:kris本文地址:https://www.damoyx.com/p/40385.html发布于 2025-03-06 01:22:46
文章转载或复制请以超链接形式并注明出处大漠游侠网

阅读
分享