DeepSeek本地部署type
status
date
slug
summary
tags
category
icon
password
文章前言：就在今年，2025年2月，DeepSeek横空出世，提出了一种全新的大模型框架，以更少的显卡性能和存储能训练出同等效果水平的大模型（用极低的算力成本，实现了比肩全球一线预训练大模型的能力），打破了美国OpenAI的“唯一”大模型训练路径，第一次真正公开了用强化学习（Reinforcement Learning，简称RL）做推理模型的可能路径。
本文就主要介绍了如何在本地部署DeepSeek大模型，无痛用上世界顶尖的大模型！
一、DeepSeek不同版本模型硬件要求
模型版本 | 参数量 | 显存需求（FP16） | 推荐 GPU（单卡） | 多卡支持 | 量化支持 | 适用场景 |
DeepSeek-R1-1.5B | 15亿 | 3GB | GTX 1650（4GB显存） | 无需 | 支持 | 低资源设备部署（树莓派、旧款笔记本）、实时文本生成、嵌入式系统 |
DeepSeek-R1-7B | 70亿 | 14GB | RTX 3070/4060（8GB显存） | 可选 | 支持 | 中等复杂度任务（文本摘要、翻译）、轻量级多轮对话系统 |
DeepSeek-R1-8B | 80亿 | 16GB | RTX 4070（12GB显存） | 可选 | 支持 | 需更高精度的轻量级任务（代码生成、逻辑推理） |
DeepSeek-R1-14B | 140亿 | 32GB | RTX 4090/A5000（16GB显存） | 推荐 | 支持 | 企业级复杂任务（合同分析、报告生成）、长文本理解与生成 |
DeepSeek-R1-32B | 320亿 | 64GB | A100 40GB（24GB显存） | 推荐 | 支持 | 高精度专业领域任务（医疗/法律咨询）、多模态任务预处理 |
DeepSeek-R1-70B | 700亿 | 140GB | 2x A100 80GB/4x RTX 4090（多卡并行） | 必需 | 支持 | 科研机构/大型企业（金融预测、大规模数据分析）、高复杂度生成任务 |
DeepSeek-671B | 6710亿 | 512GB+（单卡显存需求极高，通常需要多节点分布式训练） | 8x A100/H100（服务器集群） | 必需 | 支持 | 国家级/超大规模 AI 研究（气候建模、基因组分析）、通用人工智能（AGI）探索 |
二、个人硬件配置
- CPU：AMD Ryzen 7 7735H with Radeon Graphics 3.20 GHz
- 内存：16.0GB
- 操作系统：Windows 11
- 硬盘空间(C盘)：249G，剩余78G
- GPU：NVIDIA GeForce RTX 4060 Laptop GPU GDDR6 @ 8GB（128bits）
以上数据供用户安装使用参考。
三、部署安装DeepSeek
1.下载并安装Ollama
1.访问官网：https://ollama.com/ 下载
- Ollama是一个开源的AI工具，支持本地运行各种模型，包括GPT-4、deepseek等。
（也可以到Github下载，大小约为767MB）
2.下载完成后点击安装
（默认直接装在C盘）
3.检验Ollama是否安装成功
打开cmd，命令行输入 ollama -v 命令，出现如下版本号说明安装成功
2.通过Ollama拉取DeepSeek模型
1.获取DeepSeek模型下载代码
这里我选择的是8b，整个模型大小4.9GB，模型同样默认安装在C盘。
2.命令行输入：
ollama run deepseek-r1:8b 拉取DeepSeek模型如下图所示，即为安装部署成功。
3.启动模型
- 使用命令启动 DeepSeek-R1 模型：
ollama run deepseek-r1:1.5b
四、图形化界面
1.Page Assist
- 简介：Page Assist 是一款开源浏览器扩展程序，可为您的本地 AI 模型提供侧边栏和 Web UI。它允许您从任何网页与您的模型进行交互
- 支持基于 Chromium 的浏览器，如 Chrome、Brave 和 Edge，以及 Firefox。
- 在chrome应用商店下载插件
- 因为插件默认英文，可设置修改为简体中文
- 设置完成后，选择模型就可以与
DeepSeek对话了
2.Chatbox
- Chatbox官网：chatboxai.app/zh
- 安装后进行设置部署
- 使用感受：回答比终端直接用感觉会慢一点，不知道为什么有点卡卡的。
3.Open WebUI
- 缺点是在Windows上安装比较复杂，如果有感兴趣的小伙伴可以参考如下链接进行配置：https://zhuanlan.zhihu.com/p/692515087
📎 参考文章
有关问题，欢迎您在底部评论区留言，一起交流~
- Author:Koreyoshi
- URL:https://Koreyoshi1216.com/article/1a1c7b13-c6a7-80ac-85f8-d14a468c73c0
- Copyright:All articles in this blog, except for special statements, adopt BY-NC-SA agreement. Please indicate the source!
.jpg?table=block&id=28ef2634-6088-40b1-a792-fcf88ef5057f&t=28ef2634-6088-40b1-a792-fcf88ef5057f&width=800&cache=v2)
.jpg?table=block&id=1abc7b13-c6a7-8052-80f8-c3514d0a2f4c&t=1abc7b13-c6a7-8052-80f8-c3514d0a2f4c)
