大家好,最近成功用 Ultra245K 搭建了 DeepSeek 本地模型,体验堪称惊艳!今天就把这份超详细的攻略分享给大家,照着做,你也能轻松拥有自己的本地 AI 助手。
一、前期准备
(一)硬件选择
1. CPU:Intel Ultra245K 是本次的核心硬件,它采用精致小黑盒包装,正面透明窗设计很贴心,能直接看到 CPU。打开包装,正面刻有型号、序列号等信息,还有二维码,背面的凹槽设计让装机定位超方便。而且它自带的高性能核显和 NPU,为后续模型部署打下坚实基础。
2. 主板:铭宣终结者 B860M 主板是绝佳搭档,12 相供电确保 Ultra245K 稳定运行。它支持双通道 4 根 DDR5 内存,最大可达 128GB,还原生支持 7000Mhz DDR5 内存频率,在高内存负载场景下性能提升显著。
3. 内存:光威龙武 DDR5 16*2 6000mhz 套条性价比超高,活动价 400 多就能拿下,能满足模型运行的内存需求。
4. 机箱:拓扑龙开放式机箱只要 30 元,实惠又实用,组装也很简单。
5. 电源:爱国者 EP650 650w 全模组电源,200 元左右,供电稳定可靠,为整个系统提供稳定动力。
(二)软件准备
1. Intel GPU 驱动:前往英特尔官网(https://www.intel.cn/content/www/cn/zh/products/sku/241067/intel-core-ultra-5-processor-245k-24m-cache-up-to-5-20-ghz/downloads.html),根据自己的操作系统下载最新的 GPU 驱动。这一步很关键,它能让核显更好地发挥性能。
2. ipex-llm ollama 部署包:进入https://github.com/intel/ipex-llm/releases/tag/v2.2.0-nightly,下载 llama-cpp-ipex-llm-2.2.0b20250224-win-npu.zip 到本地,下载完成后解压备用。
二、装机与性能测试
(一)装机步骤
按照硬件安装说明书,依次将 CPU 安装到主板上,注意对准凹槽。安装内存时,将内存条对准插槽,轻轻按下,听到 “咔哒” 声即安装到位。接着安装机箱、电源等硬件,完成整个装机过程。如果是新手,可以在网上搜索相关装机教程视频,跟着一步步操作。
(二)性能测试
1. 3DMark CPU Profile 测试:运行该测试,它能展示 CPU 在不同核心和线程数下的性能表现。Ultra245K 单线程分数 1213 分,处理单核心任务游刃有余;最大线程得分 12348 分,多任务并行处理能力出色。
2. CPU-Z 测试:在 CPU-Z 测试中,Ultra245K 单核心 800 分,多核心 10051 分,多核心成绩几乎与曾经的高端处理器 12900K 持平,日常使用和复杂任务处理都能轻松应对。
三、模型部署与使用
(一)Ollama 启动与模型下载
1. 在解压后的 ipex-llm ollama 部署包文件夹里,按住 Shift + 右键,选择 “在终端中打开”。
2. 在终端中输入./start-ollama.bat,此时会弹出一个满是日志的命令行窗口,这代表 Ollama 启动成功,千万不要关闭它。
3. 在这个打开的命令行窗口中输入.ollama.exe pull deepseek-r1:7b,等待模型下载完成。下载时间根据网络情况而定,需要耐心等待。
(二)借助 AnythingLLM 使用模型
1. 前往 AnythingLLM 官网(AnythingLLM | The all-in-one AI application for everyone)下载并安装软件。
2. 安装完成后启动 AnythingLLM 软件。
3. 在软件的模型选择位置找到 “ollama” 选项,这时就能看到下载好的 DeepSeekR1 模型。
4. 创建一个工作区,名字可以自行设定,例如 “DeepSeek-iGPU” 。
5. 选中创建的工作区,点击 “NewThread” 开启新对话,这样就可以和 DeepSeekR1 进行聊天交互了。从任务管理器中可以看到,核显基本满载,使用了 7.2G 主机内存,模型的 token 生成速率约为 10token/s,对于个人日常使用来说,这样的速度足以保证流畅对话。
四、NPU 展望
Ultra245K 的 NPU 是一大亮点,虽然目前由于其较新,在部署过程中存在一些 bug,但按照 Intel ipex-llm 的更新速度,预计下个月左右就能使用 NPU 进行模型推理和部署,届时性能有望进一步提升。
以上就是用 Ultra245K 搭建 DeepSeek 本地模型的详细过程。如果大家在操作过程中遇到任何问题,欢迎在评论区留言,咱们一起交流解决!
本文来自:什么值得买