Ask me anything
Ithy Logo
Sign in to save

DeepSeek 本地部署详尽指南

一步步引导您在本地成功部署 DeepSeek 模型

server room setup

关键要点

  • 系统与硬件要求:确保您的设备满足最低或推荐配置,以保证模型高效运行。
  • 安装与配置步骤:包括环境准备、安装工具、下载模型以及配置可视化界面。
  • 常见问题解决:提供故障排除的方法,帮助您应对部署过程中可能遇到的问题。

一、硬件与软件要求

1. 硬件配置

最低配置

为确保 DeepSeek 模型能够顺利运行,您的计算机应至少具备以下配置:

  • CPU:支持 AVX2 指令集的多核处理器
  • 内存:16GB
  • 存储:30GB 可用空间
  • 显卡:无 GPU 需求,但推荐具备 NVIDIA GPU(如 RTX 3060 或更高)以提升性能

推荐配置

若希望获得更佳的性能和用户体验,建议使用以下更高配置:

  • CPU:高性能多核处理器(如 Intel i9 或 AMD Ryzen 9 系列)
  • 内存:32GB 以上
  • 存储:50GB 以上的 SSD
  • 显卡:NVIDIA RTX 3090 或更高型号,以支持大规模模型推理

2. 软件要求

  • 操作系统:Windows、macOS 或 Linux(建议使用 Linux 以获得更好的兼容性和性能)
  • Docker:用于部署可视化界面的工具,可选但推荐安装
  • Git、Python(建议 3.8 或更高版本)、pip:用于克隆项目和安装依赖
  • Node.js 和 npm/yarn:如项目包含前端部分,则需要安装这些工具

二、安装步骤

1. 环境准备

安装必要的软件

首先,确保您的系统上已安装以下软件:

  • Git:用于克隆 DeepSeek 项目的代码仓库。可从 Git 官网 下载并安装。
  • Python:推荐安装 Python 3.8 或更高版本。可从 Python 官网 获取。
  • pip:Python 的包管理工具,通常随 Python 一起安装。
  • Docker:用于部署容器化应用。请访问 Docker 官网 下载并安装。
  • Node.js 和 npm/yarn:如果项目包含前端部分,需安装这些工具。可从 Node.js 官网 获取。

验证安装

在终端或命令提示符中执行以下命令,确认软件已正确安装:

git --version
python --version
pip --version
docker --version
node --version
npm --version

2. 下载并安装 Ollama

Ollama 是一个轻量级工具,帮助您在本地快速部署和运行大型语言模型。

  • 访问 Ollama 官网,根据您的操作系统下载相应的安装包。
  • 运行安装程序,并按照提示完成安装过程。
  • 安装完成后,打开终端,输入以下命令以验证安装是否成功:
ollama --version

若显示版本信息,则表示 Ollama 已成功安装。

3. 获取并下载 DeepSeek 模型

根据您的硬件配置选择合适的 DeepSeek 模型版本:

模型版本 参数数量 存储需求 推荐配置
1.5B 15 亿 约 1.1 GB CPU + 16GB 内存 + 30GB 存储
7B 70 亿 约 4.7 GB NVIDIA RTX 3060 或以上 + 32GB 内存 + 50GB 存储
70B 200 亿 约 200 GB NVIDIA RTX 4060 或以上 + 32GB 内存 + 高速 SSD

使用以下命令下载并运行所选版本的模型:

ollama run deepseek-r1:1.5b  # 下载并运行 1.5B 版本
ollama run deepseek-r1:7b    # 下载并运行 7B 版本
ollama run deepseek-r1:70b   # 下载并运行 70B 版本

执行上述命令后,Ollama 将自动下载所选模型的必要文件。下载完成后,您可以通过以下命令查看已安装的模型:

ollama list

4. 克隆 DeepSeek 项目代码

假设 DeepSeek 项目的代码托管在 GitHub 上,您可以通过以下步骤获取代码:

git clone https://github.com/your_org/deepseek.git
cd deepseek

5. 安装项目依赖

后端依赖

进入项目目录后,安装 Python 后端的依赖:

pip install -r requirements.txt

前端依赖(如果适用)

若项目包含前端部分,执行以下步骤安装前端依赖并构建前端资源:

cd frontend
npm install
# 或使用 yarn
yarn install
npm run build

6. 配置环境变量

根据项目提供的环境变量模板(如 .env.example),创建并配置 .env 文件:

  • 复制 .env.example 文件为 .env:
cp .env.example .env
  • 编辑 .env 文件,填入必要的配置信息,如数据库连接、API 密钥、端口号等。

如果项目依赖数据库,还需按照项目文档进行数据库初始化:

# 例如,使用 Alembic 进行数据库迁移
alembic upgrade head

7. 启动服务

启动后端服务

运行以下命令启动后端服务:

python main.py
# 或者使用 uvicorn(如基于 FastAPI)
uvicorn app:app --host 0.0.0.0 --port 8000

启动前端服务(如适用)

确保前端资源已构建完成,并按照项目文档启动前端服务。

配置跨域(CORS)

若前后端分离,需确保跨域配置正确,以允许前端与后端通信。可在后端配置中设置允许的源地址。

使用 Docker 启动服务(可选)

若项目提供 Docker 配置文件,可通过以下步骤使用 Docker 部署:

docker-compose up -d

此命令将自动构建 Docker 镜像并启动容器。

8. 配置可视化界面

安装 Open Web UI

为了更友好的用户体验,建议配置 Open Web UI:

# 克隆 Open Web UI 仓库
git clone https://github.com/open-webui/open-webui.git
# 使用 Docker 启动 Web UI
docker run -d -p 3000:8080 ghcr.io/open-webui/open-webui:main

完成后,可以通过访问 http://localhost:3000 使用 Web 界面。

使用 Cherry Studio(推荐)

另一种配置可视化界面的方式是使用 Cherry Studio:

API 地址:http://localhost:11434/v1
模型名称:deepseek-r1:1.5b

完成配置后,即可通过 Cherry Studio 客户端与模型进行交互。


三、启动与测试

1. 启动所有服务

确保后端、前端(如适用)以及可视化界面已全部启动。

2. 测试访问

在浏览器中访问配置的服务地址,以验证部署是否成功:

  • http://127.0.0.1:8000:后端服务入口
  • http://localhost:3000:Open Web UI 界面

3. 验证模型运行

通过可视化界面或 API 接口发送请求,验证 DeepSeek 模型是否正常响应。例如,使用 curl 命令测试:

curl -X POST http://127.0.0.1:8000/predict -H "Content-Type: application/json" -d '{"input": "测试查询"}'

若返回预期的结果,说明模型部署成功。


四、常见问题与解决方法

1. 安装依赖失败

解决方法:

  • 确保 Python 和 pip 已正确安装,并且版本符合要求。
  • 尝试升级 pip:
    pip install --upgrade pip
  • 检查网络连接,确保能够访问 PyPI 服务器。

2. 模型下载中断或失败

解决方法:

  • 检查网络连接,确保下载过程中网络稳定。
  • 尝试使用国内的镜像源以加快下载速度,如配置 Docker 镜像源为 DaoCloud 或阿里云。
  • 确认本地存储空间充足,满足模型下载及运行需求。

3. 启动服务后无法访问

解决方法:

  • 检查防火墙设置,确保相关端口未被阻止。
  • 验证服务是否已正确启动,并监听指定端口。
  • 查看服务日志,寻找可能的错误信息并进行修复。

4. 模型响应缓慢

解决方法:

  • 升级硬件配置,特别是增加内存或使用更强大的 GPU。
  • 优化模型参数或选择较小的模型版本以提升响应速度。
  • 确保后端服务及数据库优化良好,减少潜在的瓶颈。

五、高级部署选项

1. 使用 Docker 进行容器化部署

容器化部署有助于简化环境配置,确保跨平台的一致性:

  1. 确保 Docker 和 docker-compose 已正确安装。
  2. 在项目根目录中,检查是否包含 Dockerfile 或 docker-compose.yml 文件。
  3. 执行以下命令启动服务:
docker-compose up -d

此命令将自动构建 Docker 镜像并启动相关容器。完成后,可通过浏览器访问相应的端口以使用服务。

2. 配置自动化脚本

为简化部署流程,建议编写自动化脚本以自动安装依赖、下载模型和启动服务。例如,使用 Bash 脚本:

#!/bin/bash
# 更新系统
sudo apt update && sudo apt upgrade -y

# 安装必要软件
sudo apt install -y git python3-pip docker docker-compose nodejs npm

# 克隆项目
git clone https://github.com/your_org/deepseek.git
cd deepseek

# 安装后端依赖
pip install -r requirements.txt

# 安装前端依赖并构建
cd frontend
npm install
npm run build
cd ..

# 配置环境变量
cp .env.example .env
# 此处可添加自动填充环境变量的脚本

# 启动服务
docker-compose up -d

保存为 deploy.sh 并赋予执行权限后运行:

chmod +x deploy.sh
./deploy.sh

3. 分布式部署与负载均衡

对于需要高并发处理的应用场景,可考虑分布式部署:

  • 使用 Kubernetes 管理容器化的服务,实现自动扩展与负载均衡。
  • 配置多个实例以分担请求压力,提升系统的整体性能和稳定性。
  • 结合缓存机制(如 Redis)优化数据读取速度,减少数据库负担。
# 示例 Kubernetes 部署文件
apiVersion: apps/v1
kind: Deployment
metadata:
  name: deepseek-deployment
spec:
  replicas: 3
  selector:
    matchLabels:
      app: deepseek
  template:
    metadata:
      labels:
        app: deepseek
    spec:
      containers:
      - name: deepseek
        image: your_docker_image
        ports:
        - containerPort: 8000

六、结论

通过上述详尽的步骤,您可以在本地环境中成功部署 DeepSeek 模型。无论是基本配置还是高级部署选项,本指南都旨在提供全面的支持,确保您的部署过程顺利进行。部署完成后,您将能够充分利用 DeepSeek 的强大功能,提升工作效率和应用体验。


参考资料

jishuzhan.net
技术指南文章
blog.csdn.net
CSDN 博客
blog.csdn.net
CSDN 博客
shouyou.3dmgame.com
手游网
cnblogs.com
博客园
freedidi.com
FreeDidi
ollama.com
Ollama 官网
developer.aliyun.com
阿里云开发者文章

Last updated February 6, 2025

AI-assisted research. Sources, methodology and corrections · Source-checked guides and tools · Explore published answers

Ask Ithy AI