阿里云PAI部署DeepSeek及调用-阿里云开发者社区

阿里云PAI部署DeepSeek及调用

2025-02-06 3547

版权

本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。

本文涉及的产品

交互式建模 PAI-DSW，每月250计算时 3个月

模型在线服务 PAI-EAS，A10/V100等 500元 1个月

模型训练 PAI-DLC，100CU*H 3个月

简介： 本文介绍如何在阿里云PAI EAS上部署DeepSeek模型，涵盖7B模型的部署、SDK和API调用。7B模型只需一张A10显卡，部署时间约10分钟。文章详细展示了模型信息查看、在线调试及通过OpenAI SDK和Python Requests进行调用的步骤，并附有测试结果和参考文档链接。

概述

本文主要演示如果在阿里云PAI EAS上面部署DeepSeek模型，以及部署模型后的SDK和API调用。

操作步骤

1、选择7B模型部署

目前7B模型一张A10卡即可满足，部署时间10分钟左右，阿里云A10卡相对充足。

图片.png

2、模型信息查看及在线调试

图片.png

请求body

{
  "messages": [
    {
      "role": "user",
      "content": "你是谁？"
    }
  ],
  "max_tokens": 2000
}

3、SDK&PostMan调用

OpenAI SDK

from openai import OpenAI

client = OpenAI(
    base_url="http://1991************.cn-beijing.pai-eas.aliyuncs.com/api/predict/quickstart_20250206_pbxi/v1",
    api_key="ZDEyMjc0ZTFh***************"
)

# Chat completion
response = client.chat.completions.create(
    model='default',
    messages=[
        {"role": "system", "content": "You are a helpful AI assistant"},
        {"role": "user", "content": """请介绍一下deepseekr1"""},
    ],
    max_tokens=2000,
    stream=True
)

for chunk in response:
    print(chunk.model_dump_json())

图片.png

Python Requests

import requests
import json

url = "http://19912********.cn-beijing.pai-eas.aliyuncs.com/api/predict/quickstart_20250206_pbxi/v1/chat/completions"

payload = json.dumps({
  "messages": [
    {
      "role": "user",
      "content": "你是谁？"
    }
  ],
  "max_tokens": 2000
})
headers = {
  'Content-Type': 'application/json',
  'Authorization': 'Bearer ZDEyMjc0ZTFhNGI***********=='
}

response = requests.request("POST", url, headers=headers, data=payload)

print(response.text)

测试结果

{"id":"26a3f338-b328-4bb0-b03a-d266b7bd0ea9","choices":[{"finish_reason":"stop","index":0,"logprobs":null,"message":{"role":"assistant","content":"<think>\n\n</think>\n\n您好！我是由中国的深度求索（DeepSeek）公司开发的智能助手DeepSeek-R1。如您有任何任何问题，我会尽我所能为您提供帮助。"}}],"object":"chat.completion","usage":{"prompt_tokens":7,"completion_tokens":40,"total_tokens":47},"error_info":null}