【DeepSeek应用】Deepseek R1 本地部署(Ollama+Docker+OpenWebUI)
【DeepSeek应用】DeepSeek 搭建个人知识库(Ollama+CherryStudio)
【DeepSeek应用】100个 DeepSeek 官方推荐的工具箱
【DeepSeek应用】Zotero+Deepseek 阅读与分析文献


2025年1月,DeepSeek 正式发布 DeepSeek-R1 推理大模型。DeepSeek-R1 成本价格低廉,性能卓越,在 AI 行业引起了广泛关注。

DeepSeek 提供了多种使用方式,满足不同用户的需求和场景。本地部署在数据安全、性能、定制化、成本、离线可用性和技术自主性方面具有显著优势。

本文详细讲解 基于 Ollama+Docker+OpenWebUI 的本地化部署流程,并通过实例代码演示。

在这里插入图片描述


1. 软硬件需求

1.1 硬件需求

DeepSeek R1 本地部署的硬件需求如下:

  • 基本推荐配置:CPU: 8核或以上,内存: 32GB或以上,存储: 100GB SSD或以上,GPU: NVIDIA GTX 1080或同等性能
  • DeepSeek-7B 推荐配置:RTX3060 以上显卡 + 16G以上 内存 + 50G SSD 存储空间
  • DeepSeek-70B 推荐配置:RTX4060 以上显卡 + 32G以上 内存 + 200G SSD 存储空间

本教程使用的硬件配置为:CPU: Intel i5-12490/3.00GHz,内存: 32GB,存储: 500GB SSD,GPU: NVIDIA GTX 3060。


1.2 软件依赖

DeepSeek R1 本地部署的软件依赖包括操作系统、容器化工具、编程语言、深度学习框架、数据库、消息队列、Web 服务器、GPU 加速工具、版本控制、包管理工具、监控与日志工具以及安全工具

本教程采用 Windows10 操作版本、Python 3.8 版本、PyTorch 1.7 版本。


2. Ollama 下载与安装

2.1 Ollama 的下载

Ollama 是一个开源的本地模型运行工具,可以方便地下载和运行各种开源模型,如 Llama、Qwen、DeepSeek 等。Ollama 提供高效、灵活的大模型部署和管理解决方案,可以简化模型的部署流程。支持macOS、Linux、Windows 操作系统。

官网地址:https://ollama.com/
下载地址:https://ollama.com/download

本教程选择 Ollama Windows 版本 下载。

在这里插入图片描述


2.2 Ollama 的安装

下载完成后直接点击 OllamaSetup.exe 进行安装。

安装完成后,cmd 打开命令行窗口,输入 “ollama -v” 测试,显示 ollama 的版本为 “0.5.7”,表明安装成功。

在这里插入图片描述


2.3 Ollama 的运行

Ollama 没有用户界面,在后台运行。

打开浏览器,输入 “http://localhost:11434/”,显示 “Ollama is running”。

在这里插入图片描述


3. deepseek-r1 模型安装

3.1 Ollma 安装 deepseek-r1 模型

(1)从 ollama 官网 查找 deepseek-r1 模型。

在这里插入图片描述

(2)点击进入 deepseek-r1 模型,可以选择不同版本的模型(1.5b/7b/14b/32b/70b/671b)。
deepseek-r1 提供多个版本,参数量越大,模型的性能越强大,但也需要更多的存储和计算资源。1.5b 模型参数为15亿/1.1GB,7b 模型参数约为 70亿/4.7GB,14b 模型参数约为 140亿/9GB。

deepseek-r1 不同版本模型的执行命令不同:

1.5b 的命令为:“ollama run deepseek-r1:1.5b”
7b 的命令为:“ollama run deepseek-r1:7b”
14b 的命令为:“ollama run deepseek-r1:14b”

推荐大家先下载 较小的 1.5b 模型,把本教程的安装程序跑通,再根据自己的硬件配置和需求安装适当的版本。
在这里插入图片描述

(3)本教程选择选择 7b 模型,在命令行窗口运行安装命令 “ollama run deepseek-r1:7b”,程序会自动下载和安装运行。
在这里插入图片描述

默认地址是 “C:\Users%username%.ollama\models”。如果要修改模型的保存地址,可以新建一个文件夹如 “C:\Model”,然后在系统环境变量添加系统变量:“变量名:OLLAMA_MODELS,变量值:C:\Model”。

(4)安装完成后显示 “success”,表明安装成功。

在这里插入图片描述
如果安装其它版本,也是类似的,只要修改 在命令行窗口运行安装命令最后的版本参数即可,例如: “ollama run deepseek-r1:32b”。
在这里插入图片描述


3.2 使用 deepseek-r1 模型

(1)在命令行窗口运行命令 “ollama run deepseek-r1:7b”,就可以在提示行输入,与 deepseek-r1 进行聊天。

在这里插入图片描述

在这里插入图片描述

(2)输入 “/?”,可以获得帮助。
在这里插入图片描述

通过本地命令行窗口可以使用 deepseek-r1,但这让人回到了 DOS 年代,交互体验很差。接下来我们按照 Docker 和 Open WebUI 用户界面,可以更便捷地使用 deepseek-r1。


4. 安装 Docker

Docker是一种虚拟化容器技术。Docker基于镜像,可以秒级启动各种容器。每一种容器都是一个完整的运行环境,容器之间互相隔离。


4.1 检查安装环境

在 Windows 任务管理器中,检查系统是否开启虚拟化。

  1. 打开任务管理器(Ctrl+Alt+Delete),选择:性能 - CPU - 虚拟化,确认“虚拟化”已启用。

在这里插入图片描述

如果未开启虚拟化,则要开机重启并进入BIOS 进行设置:在 BIOS 选择:Advanced(高级)-- CPU Configuration – Secure Virtual Machine,设置为:Enabled(启用)。

  1. 在 “控制面板” 打开 “程序”,然后点击 “启用或关闭 Windows 功能”,勾选 “Hyper-V 管理工具” 和 “Hyper-V 平台”。

在这里插入图片描述

  1. 以管理员身份打开命令行窗口,输入 “wsl --set-default-version 2”,将默认设置为 WSL 2。

通过适用于 Linux 的 Windows 子系统 (WSL),开发人员可以安装 Linux 发行版,并直接在 Windows 上使用 Linux 应用程序、实用程序和 Bash 命令行工具,不用进行任何修改。

  1. 命令行窗口,输入 “wsl --update --web-download”,更新安装 wsl。
    在这里插入图片描述

4.2 安装 Docker for Desktop

Docker Desktop 是 Docker 官方提供的桌面应用程序,旨在让开发者能够在 Windows 和 macOS 系统上轻松地构建、运行和共享容器化应用程序。Docker Desktop 提供了一个方便的工具集,使用户能够快速部署容器化应用程序,同时还包括了一些强大的功能和工具,如 Docker Engine、Docker CLI、Docker Compose 等。

Docker 官方 下载 Docker 安装程序。依照提示完成安装即可。

在这里插入图片描述

安装时选择推荐设置。
根据提示登录账号,如使用 GitHub 账号登录。

在这里插入图片描述

安装完成后,cmd 打开命令行窗口,输入 “docker version” 检查,显示 docker 的版本为 “27.4.0”,表明安装成功。
在这里插入图片描述


4.3 配置国内镜像源

在命令行执行命令 “docker run hello-world”,可能出现报错:
“docker: Error response from daemon. (Client. Timeout exceeded while awaiting headers).”
这是 Docker 守护进程在尝试连接到 Docker Hub(registry-1.docker.io)时,发生连接超时,即尝试访问国外的镜像源失败。

对于这个问题,可以使用国内的镜像源或者相关加速。
进入 docker,选择 Settings – Docker Engine,将镜像源替换如下:

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "features": {
    "buildkit": true
  },
  "registry-mirrors": [
    "https://docker.m.daocloud.io",
    "https://docker.1panel.live",
    "https://registry.docker-cn.com",
    "https://cr.console.aliyun.com",
    "https://mirror.ccs.tencentyun.com"
  ]
}

在这里插入图片描述

点击 “Apply & restart”,重启并再次进入 docker,等待 Engine Starting 后就成功。

重启 docker 之后,再次执行命令 “docker run hello-world”,就可以成功拉取 hello-world 镜像并运行。

在这里插入图片描述


5. 安装 Open WebUI

Open WebUI是一个可扩展、功能丰富、用户友好的自托管 WebUI,旨在完全离线操作。它支持各种LLM运行程序,包括 Ollama 和 OpenAI 兼容的 API。Open WebUI 适配了 Ollama 接口,提供了 web 的方式来访问 Ollama API.


5.1 安装和启动 open-webui

  1. 打开 open-webui 项目的 Github 仓库 https://github.com/open-webui/open-webui

在这里插入图片描述

  1. 从 README 的安装指南找到用于 Ollama 的安装命令

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

注意,如果运行支持 Nvidia GPU 的 Open WebUI,使用以下命令:

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

在这里插入图片描述

  1. 在命令行执行 docker 命令,自动下载并安装 open-webui。
    在这里插入图片描述

5.2 登录 Open-WebUI 进入 deepseek-r1

  1. 在浏览器输入 “localhost:3000/auth” 或 “http://127.0.0.1:3000”,进入 Open-WebUI 首页。

在这里插入图片描述

  1. 注册账号密码,创建管理员账号。

  2. 注册完成并登录,就进入 deepseek-r1 模型的首页:

在这里插入图片描述

现在,我们就可以用本地部署的 deepseek-r1 模型进行聊天了。

在这里插入图片描述

在这里插入图片描述


版权声明:
youcans@qq.com 原创作品,转载必须标注原文链接:
【DeepSeek应用】DeepSeek R1 本地部署(Ollama+Docker+OpenWebUI)(https://blog.csdn.net/youcans/article/details/145414849)
Copyright@youcans 2025
Crated:2025-02

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐