【DeepSeek应用】DeepSeek R1 本地部署（Ollama+Docker+OpenWebUI）

1. 软硬件需求
1.1 硬件需求

DeepSeek R1 本地部署的硬件需求如下：

    基本推荐配置：CPU: 8核或以上，内存: 32GB或以上，存储: 100GB SSD或以上，GPU: NVIDIA GTX 1080或同等性能
    DeepSeek-7B 推荐配置：RTX3060 以上显卡 + 16G以上内存 + 50G SSD 存储空间
    DeepSeek-70B 推荐配置：RTX4060 以上显卡 + 32G以上内存 + 200G SSD 存储空间

本教程使用的硬件配置为：CPU: Intel i5-12490/3.00GHz，内存: 32GB，存储: 500GB SSD，GPU: NVIDIA GTX 3060。

1.2 软件依赖

DeepSeek R1 本地部署的软件依赖包括操作系统、容器化工具、编程语言、深度学习框架、数据库、消息队列、Web 服务器、GPU 加速工具、版本控制、包管理工具、监控与日志工具以及安全工具

本教程采用 Windows10 操作版本、Python 3.8 版本、PyTorch 1.7 版本。

2. Ollama 下载与安装
2.1 Ollama 的下载

Ollama 是一个开源的本地模型运行工具，可以方便地下载和运行各种开源模型，如 Llama、Qwen、DeepSeek 等。Ollama 提供高效、灵活的大模型部署和管理解决方案，可以简化模型的部署流程。支持macOS、Linux、Windows 操作系统。

    官网地址：https://ollama.com/
    下载地址：https://ollama.com/download

本教程选择 Ollama Windows 版本下载。

2.2 Ollama 的安装

下载完成后直接点击 OllamaSetup.exe 进行安装。

安装完成后，cmd 打开命令行窗口，输入 “ollama -v” 测试，显示 ollama 的版本为 “0.5.7”，表明安装成功。

2.3 Ollama 的运行

Ollama 没有用户界面，在后台运行。

打开浏览器，输入 “http://localhost:11434/”，显示 “Ollama is running”。

3. deepseek-r1 模型安装
3.1 Ollma 安装 deepseek-r1 模型

（1）从 ollama 官网查找 deepseek-r1 模型。

（2）点击进入 deepseek-r1 模型，可以选择不同版本的模型（1.5b/7b/14b/32b/70b/671b）。
deepseek-r1 提供多个版本，参数量越大，模型的性能越强大，但也需要更多的存储和计算资源。1.5b 模型参数为15亿/1.1GB，7b 模型参数约为 70亿/4.7GB，14b 模型参数约为 140亿/9GB。

deepseek-r1 不同版本模型的执行命令不同：

    1.5b 的命令为：“ollama run deepseek-r1:1.5b”
    7b 的命令为：“ollama run deepseek-r1:7b”
    14b 的命令为：“ollama run deepseek-r1:14b”

推荐大家先下载较小的 1.5b 模型，把本教程的安装程序跑通，再根据自己的硬件配置和需求安装适当的版本。

（3）本教程选择选择 7b 模型，在命令行窗口运行安装命令 “ollama run deepseek-r1:7b”，程序会自动下载和安装运行。

默认地址是 “C:\Users%username%.ollama\models”。如果要修改模型的保存地址，可以新建一个文件夹如 “C:\Model”，然后在系统环境变量添加系统变量：“变量名：OLLAMA_MODELS，变量值：C:\Model”。

（4）安装完成后显示 “success”，表明安装成功。

3.2 使用 deepseek-r1 模型

（1）在命令行窗口运行命令 “ollama run deepseek-r1:7b”，就可以在提示行输入，与 deepseek-r1 进行聊天。

（2）输入 “/?”，可以获得帮助。

通过本地命令行窗口可以使用 deepseek-r1，但这让人回到了 DOS 年代，交互体验很差。接下来我们按照 Docker 和 Open WebUI 用户界面，可以更便捷地使用 deepseek-r1。

4. 安装 Docker

Docker是一种虚拟化容器技术。Docker基于镜像，可以秒级启动各种容器。每一种容器都是一个完整的运行环境，容器之间互相隔离。

4.1 检查安装环境

在 Windows 任务管理器中，检查系统是否开启虚拟化。

    打开任务管理器（Ctrl+Alt+Delete），选择：性能 - CPU - 虚拟化，确认“虚拟化”已启用。

在这里插入图片描述

如果未开启虚拟化，则要开机重启并进入BIOS 进行设置：在 BIOS 选择：Advanced（高级）-- CPU Configuration – Secure Virtual Machine，设置为：Enabled（启用）。

    在 “控制面板” 打开 “程序”，然后点击 “启用或关闭 Windows 功能”，勾选 “Hyper-V 管理工具” 和 “Hyper-V 平台”。

在这里插入图片描述

    以管理员身份打开命令行窗口，输入 “wsl --set-default-version 2”，将默认设置为 WSL 2。

通过适用于 Linux 的 Windows 子系统 (WSL)，开发人员可以安装 Linux 发行版，并直接在 Windows 上使用 Linux 应用程序、实用程序和 Bash 命令行工具，不用进行任何修改。

    命令行窗口，输入 “wsl --update --web-download”，更新安装 wsl。
    在这里插入图片描述

4.2 安装 Docker for Desktop

Docker Desktop 是 Docker 官方提供的桌面应用程序，旨在让开发者能够在 Windows 和 macOS 系统上轻松地构建、运行和共享容器化应用程序。Docker Desktop 提供了一个方便的工具集，使用户能够快速部署容器化应用程序，同时还包括了一些强大的功能和工具，如 Docker Engine、Docker CLI、Docker Compose 等。

从 Docker 官方下载 Docker 安装程序。依照提示完成安装即可。

在这里插入图片描述

安装时选择推荐设置。
根据提示登录账号，如使用 GitHub 账号登录。

在这里插入图片描述

安装完成后，cmd 打开命令行窗口，输入 “docker version” 检查，显示 docker 的版本为 “27.4.0”，表明安装成功。
在这里插入图片描述

4.3 配置国内镜像源

在命令行执行命令 “docker run hello-world”，可能出现报错：
“docker: Error response from daemon. (Client. Timeout exceeded while awaiting headers).”
这是 Docker 守护进程在尝试连接到 Docker Hub（registry-1.docker.io）时，发生连接超时，即尝试访问国外的镜像源失败。

对于这个问题，可以使用国内的镜像源或者相关加速。
进入 docker，选择 Settings – Docker Engine，将镜像源替换如下：

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "features": {
    "buildkit": true
  },
  "registry-mirrors": [
    "https://docker.m.daocloud.io",
    "https://docker.1panel.live",
    "https://registry.docker-cn.com",
    "https://cr.console.aliyun.com",
    "https://mirror.ccs.tencentyun.com"
  ]
}

在这里插入图片描述

点击 “Apply & restart”，重启并再次进入 docker，等待 Engine Starting 后就成功。

重启 docker 之后，再次执行命令 “docker run hello-world”，就可以成功拉取 hello-world 镜像并运行。

在这里插入图片描述

5. 安装 Open WebUI

Open WebUI是一个可扩展、功能丰富、用户友好的自托管 WebUI，旨在完全离线操作。它支持各种LLM运行程序，包括 Ollama 和 OpenAI 兼容的 API。Open WebUI 适配了 Ollama 接口，提供了 web 的方式来访问 Ollama API.

5.1 安装和启动 open-webui

    打开 open-webui 项目的 Github 仓库 https://github.com/open-webui/open-webui：

在这里插入图片描述

    从 README 的安装指南找到用于 Ollama 的安装命令

    docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

在这里插入图片描述

    在命令行执行 docker 命令，自动下载并安装 open-webui。
    在这里插入图片描述

5.2 登录 Open-WebUI 进入 deepseek-r1

    在浏览器输入 “localhost:3000/auth” 或 “http://127.0.0.1:3000”，进入 Open-WebUI 首页。

在这里插入图片描述

    注册账号密码，创建管理员账号。

    注册完成并登录，就进入 deepseek-r1 模型的首页：

在这里插入图片描述

现在，我们就可以用本地部署的 deepseek-r1 模型进行聊天了。

在这里插入图片描述

在这里插入图片描述

猜你喜欢