2023年职业院校技能大赛中职组----大数据应用与服务赛项任务书试题

本文涉及的产品
RDS MySQL Serverless 基础系列,0.5-2RCU 50GB
RDS MySQL Serverless 高可用系列,价值2615元额度,1个月
云数据库 RDS PostgreSQL,高可用系列 2核4GB
简介: 2023年职业院校技能大赛中职组----大数据应用与服务赛项任务书试题

一、竞赛内容

本试卷包含数据库系统运维、数据采集与处理、大数据应用开发三个模块,试卷满分100分。

二、竞赛时间

竞赛时间:共计240分钟。

三、竞赛事项要求

1.参赛选手不得携带通信设备等物品进入赛场,严禁在程序及运行结果中任何位置标注竞赛队的任何信息,违反者按作弊处理。

2.请根据大赛所提供的竞赛环境,检查所列的硬件设备、软件清单、材料清单是否齐全,计算机设备是否能正常使用。

3.竞赛结束前,整合各试题的操作过程和结果数据,并提交完整的文档、代码、截图等竞赛结果到指定目录中。

4.竞赛结束时,后台统一关闭答题通道,禁止将比赛所用的所有物品(包括试卷和稿纸)带离赛场。


模块一:数据库系统运维(25分)

任务一:数据库系统搭建(10分)


【任务要求】

本环节需要使用root用户完成相关配置,实现数据库系统MySQL搭建、配置及使用;

【任务需求背景】

在数据量日益增加的环境下,单一部门的数据通常无法满足整个企业的需求。此时需要通过数据库进行整合,将来自各个部门的数据汇总到一个系统中,实现数据的共享,更好的实现信息共享互通。如物资管理、软件项目管理、人事管理等,这些工作都需要建立相应的数据库进行维护,以便更好地管理相关数据。

【具体任务】

1、添加MySQL数据库系统的用户和组,将完整命令截图粘贴到对应答题报告中

2、将MySQL安装包解压到/usr/local路径,将完整命令截图粘贴到对应答题报告中;

3、在/usr/local目录下将解压出来的Mysql包改名为mysql,将完整命令截图粘贴到对应答题报告中;

4、将/usr/local/目录下的mysql文件夹修改为mysql组所拥有权限,将完整命令截图粘贴到对应答题报告中;

5、在/usr/local/mysql目录下(一定要在mysql目录下执行,注意输出的文字,里边有修改root密码和启动mysql的命令),初始化MySQL数据库系统,将完整命令及初始化成功的截图粘贴到对应答题报告中;

6、在usr/local/mysql/目录下,执行对MySQL数据库初始化后服务的启动命令,将完整命令及初始化成功的截图粘贴到对应答题报告中;

7、在usr/local/mysql/目录下,设置MySQL数据库的登录用户root的密码,将完整命令及初始化成功的截图粘贴到对应答题报告中;

8、在usr/local/mysql/目录下,设置MySQL数据库的登录用户root的密码,将完整命令的截图粘贴到对应答题报告中;

9、在usr/local/mysql/目录下,拷贝/usr/local/mysql/support-files/my-medium.cn配置文件到etc目录下,增加或者修改MySQL数据库的最大连接数,保存修改后的配置文件,将完整命令及修改配置后的截图粘贴到对应答题报告中;

10、通过root用户登录MySQL数据库系统,查看mysql库下的所有表,将完整命令及执行命令后的结果的截图粘贴到对应答题报告中;

任务二:房源数据库系统运维(15分)


【任务要求】

本环节需要使用MySQL数据库系统完成关于各城市用户租房信息的建库、建表、数据的增、删、改、查等操作。

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况,因此,建立一个房源信息管理系统,并通过MySQL数据库进行管理和维护,是非常必要的。

【具体任务】

1、在Mysql库中,创建一个名为tenantdb的数据库并查看这个数据库,将完整命令及结果截图粘贴到对应答题报告中;

2、在Mysql库中,选择并使用刚才创建的tenantdb数据库,将完整命令及结果截图粘贴到对应答题报告中;

3、在tenantdb数据库中创建一个名为rental_info的数据表,包含字段见下表,指定user_id字段为主键,该字段非空且自增,数据库引擎为InnoDB,默认字符集为utf8,字段类型应符合实际意义。将完整命令及运行结果截图粘贴到对应答题报告中;


表1 rental_info表字段说明:


字段 说明
user_id 租户id
user_id 租户id
user_name 租户姓名
sex 租户性别
age 租户年龄
address 家庭住址


4、在Mysql库中,查看刚才创建的rental_info表结构,将完整命令及结果截图粘贴到对应答题报告中;

5、在Mysql库中,修改rental_info表结构,将字段sex修改为user_sex,增加字段rental_address(租房地址),字段类型应符合实际意义。将完整命令及运行结果截图粘贴到对应答题报告中;

6、在Mysql库中,向rental_info表中插入三条租客租房信息:


小张,男,29,成都市天府新区,成都市武侯区;

小李,男,27,成都市成华新区,成都市高新区;

小王,男,32,成都市锦江区,成都市天府新区。

将完整命令及运行结果截图粘贴到对应答题报告中;

7、插入数据后,查询表数据,将完整命令及运行结果截图粘贴到对应答题报告中;

8、将rental_info表中user_id为1的记录,姓名修改为张三,年龄修改为35。将完整命令及运行结果截图粘贴到对应答题报告中;

9、修改rental_info表数据后,查询表数据,将完整命令及运行结果截图粘贴到对应答题报告中;

10、删除rental_info表中姓名为小李的数据,将完整命令及运行结果截图粘贴到对应答题报告中;

11、删除rental_info表数据后,查询表数据,将完整命令及运行结果截图粘贴到对应答题报告中。

模块二:数据采集与处理(30分)

任务一:二手房源数据采集(10分)


【任务要求】

本环节需要使用项目文件中导入的库完成关于房源信息的采集、保存等操作。

【任务需求背景】

互联网中的数据是海量的,通过人力操作进行数据采集低效繁琐,如何高效地获取数据源成为首要问题。本项目使用网络爬虫技术对数据信息进行采集,从“二手房信息查询网站”中抓取房源数据,并将数据进行存储。

【具体任务】

1、使用虚拟机中的谷歌浏览器访问“二手房信息查询网站”,网站访问地址为


http://127.0.0.1:5000】,网站首页效果图如下;


2、点击城市标签跳转到对应页面。以“成都”为例,“成都二手房信息”页面展示如下图;

3、使用PyCharm打开桌面上的“House”项目,在“spider”包下的“crawl_house.py”文件中进行编码,该文件用于从“二手房信息查询网站”中抓取北京、广州、天津、深圳、佛山、南宁、太原这7个城市的二手房数据,并按城市名分别保存到xlsx文件中。xlsx文件存储到“House”项目中的【spider/house_data/】目录下,若目录不存在,则需自行创建目录。


抓取的二手房信息数据及文件名要求如下:

文件名 列名
城市名_house.xlsx(如“北京_house.xlsx”) 格局、面积、朝向、层数、房龄、总价、平方价格


任务二:房源信息数据清洗(10分)


【任务要求】

本环节需要使用Excel工具对数据文件的处理,包括排序、筛选、数据标注等。

【任务需求背景】

数据资产时代,人口带来了数据,数据成就了社会发展,数据可以说无处不在。随着科技的不断发展,我们生活中产生的数据量越来越大,如何从海量数据中筛选出真正需要的数据是非常关键的。本任务使用Excel工具对数据进行处理,根据要求筛选出对应的房源。

【具体任务】

1、使用Excel打开任务一中保存的“北京”和“深圳”两地的房源信息文件;

2、筛选出面积在90—100m2平方以及价格最低的20个房源信息,在最后一列后面新增一列“意向排行”,按价格顺序从低到高,前10行标注为“优质房源”,后10行标注为“一般房源”。完成后在答题报告上粘贴相应的截图。

任务三:新房数据处理(10分)


【任务要求】

本环节需要使用NumPy、Pandas等数据处理工具完成关于新房信息数据的处理,并将处理后的数据进行保存。

【任务需求背景】

数据处理能将大量可能是杂乱无章的数据分为不同的类别和组织,为人们提供有用、有意义、易于理解的信息,帮助人们更加高效地管理和使用数据。而在现代社会,数据处理貫穿于各个领域,成为了人们对数据分类、组织、编码、存储、查询和维护等活动的关键环节。现在有一批新房信息数据,每个新房信息包括格局、面积、朝向、层数、房龄、价格等字段。需要针对原始数据中的异常数据进行处理,以便后续的使用。

【具体任务】

1、使用PyCharm打开虚拟机桌面上的“House”项目,在“clean_data”包下的“clean_house.py”文件中进行编码,该文件用于清洗新房数据并保存。

2、待清洗数据保存在“House”项目“clean_data”包的“data”下,清洗要求如下:

(1)针对“价格”列进行数据切分,切分后列名设置为“总价”、“平均价格”。

(2)针对“价格”列中存在的缺失数据,如果有另一条数据的“面积”列与之相同,则用该数据中的“价格”进行填充;如果不存在,则删除存在缺失值的数据。

(3)针对其他列中存在缺失值的数据,一律执行删除操作。

3、将处理完成后的数据进行保存,按城市名分别保存为xlsx文件(如“北京_new_house.xlsx”),存储到“House”项目中的【clean_data/house_data/】目录下,若目录不存在,则需自行创建目录。

4、使用Excel打开【clean_data/house_data/】目录下保存的文件,按“面积”列进行排序,完成后在答题报告上粘贴相应的截图。

模块三:大数据应用开发(45分)

任务一:基于Tableau进行数据分析与可视化(10分)


【任务要求】

本环节需要使用数据可视化工具Tableau,基于房源信息数据进行可视化展示;

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况。

【具体任务】

1、租房信息相关数据存储在Windows桌面“draw_price”下的“各城市租房信息.csv”中,使用数据可视化工具Tableua连接Windows桌面目录下的csv文件数据源,绘制租房价格随面积变化的折线图。X轴标签显示为面积,Y轴标签设置为最高租赁价格,标题设置为“面积-房价走势图”;

2、根据“各城市租房信息.csv”数据表,使用Tableua连接csv文件数据源,根据“房源地段”统计出各地段的在售房源数据,绘制在售房源数据统计柱状图。X轴刻度标签显示为地段名称,Y轴标签显示为在售房源数量,标题设置为“各地段在售房源对比图”。

3、X轴刻度标签字体大小为自定义大小,Y轴刻度标签字体大小为自定义大小;

4、将绘制完成后的图表进行截图,粘贴到答题报告上对应位置。

任务二:基于Excel进行数据分析与可视化(10分)


【任务要求】

本环节需要使用Excel开发工具,对各城市的租房价格数据表进行数据分析与处理,进行可视化展示;

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况。

【具体任务】

1、使用Excel工具打开Windows桌面“draw_price”文件下的“各城市租房信息.csv”,使用该数据源绘制柱状图,X轴标签设置为城市名,Y轴标签设置为平均租房价格,标题设置为“各城市租房均价对比图”,X轴刻度标签字体大小为8,Y轴刻度标签字体大小为8;

(1)使用透视表在新工作表中进行插入,选取所有的城市名作为A列,选取租房的价格求平均后作为B列;

(2)以城市名作为x轴数据,以平均价格作为Y轴数据进行柱状图的绘制;

(3)柱体颜色设置为蓝色,图表使用橙色填充,黑色边框;

2、使用Excel工具打开Windows桌面“draw_price”文件下的“各城市租房信息.csv”,筛选出“北京”的城市数据,根据“房源户型”的分类进行统计,统计出每类户型对应的房源数,基于户型统计数据绘制户型分布圆环图。

3、将绘制完成后的图表进行截图,粘贴到答题报告上对应位置。

任务三:基于Python对租房数据绘制折线图(10分)


【任务要求】

本环节需要使用Pycharm开发工具,Numpy、Pandas、Matplotlib、Seaborn等库,基于房源信息数据绘制租房价格随面积变化的折线图;

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况。

【具体任务】

1、租房信息存储在虚拟机桌面的“House”项目中“draw_price”下的“各城市租房信息.csv”中,在同级目录的draw_img1.py中完成折线图绘制;

2、使用Pandas库读取CSV文件,筛选出面积作为X轴数据,以对应价格作为Y轴数据,以城市名作为划分依据,使用Matplotlib库绘制多条折线图,展示各城市下各面积对应房价走势对比图;

3、标题设置为:各城市租房价格对比图;

4、X轴标签显示为房屋面积,Y轴标签显示为租赁价格;

5、X轴刻度标签字体大小为10,Y轴刻度标签字体大小为10;

6、将绘制的图片保存到“House”项目的“Img”路径下,命名为“line.png”,若目录不存在需自行创建。

7、将绘制完成后的图进行截图,粘贴到答题报告上对应位置。

任务四:基于Python对租房数据绘制散点图(10分)


【任务要求】

本环节需要使用Pycharm开发工具,Numpy、Pandas、Matplotlib、Seaborn等库,基于房源信息数据绘制各城市最高租房价格的散点图;

【任务需求背景】

为了了解各城市租房的整体情况,以便更好的为客户提供服务。通过对租房信息数据进行分析和可视化,可以获得一些重要的信息,如房源面积、房源价格、房源地段等,这些信息可以帮助我们更好的了解城市租房的整体情况。

【具体任务】

1、租房信息存储在虚拟机桌面的“House”项目中“draw_price”下的“各城市租房信息.csv”中,在同级目录的draw_img2.py中完成散点图绘制;

2、使用Pandas库读取CSV文件,使用Matplotlib库绘制各城市房价散点图;

(1)以城市名作为划分依据,

(2)将“房屋面积”划分为7类作为X轴数据,分别为“50㎡以下”、“50㎡80㎡”、“80㎡100㎡”、“100㎡120㎡”、“120㎡150㎡”、“150㎡~200㎡”、“200㎡以上”,以每类面积的平均房价作为Y轴数据,绘制散点图。

(3)标题设置为:各城市不同面积租房均价分布图;

(4)X轴标签显示为房屋面积,Y轴标签显示为租赁平均价格;

(5)X轴刻度标签字体大小为8,Y轴刻度标签字体大小为8;

(6)将绘制的散点图保存到“House”项目的“Img”路径下,命名为“scatter.png”,若目录不存在需自行创建。

3、将绘制完成后的图进行截图,粘贴到答题报告上对应位置。

任务五:数据分析报告(5分)


【任务要求】

本环节根据数据分析结果输出数据分析报告;

【任务需求背景】

通过对租房信息数据进行分析和可视化,我们更好的了解城市租房的整体情况,分析出不同区域的户型分布、房价走势、房源数量、租房中介信息等,根据分析可视化结果提出合适的决策建议与方案。

【具体任务】

1、根据“各城市租房信息.csv”信息及前面四个任务的可视化结果,打开虚拟机桌面“House”项目下的“数据分析报告.docx”文件,完善数据分析报告,为“爱家客”中介提出合适的房源上新意见。

2、将填写的内容进行截图并粘贴到答题报告对应位置。

相关实践学习
基于MaxCompute的热门话题分析
Apsara Clouder大数据专项技能认证配套课程:基于MaxCompute的热门话题分析
相关文章
|
3月前
|
存储 数据采集 搜索推荐
Java 大视界 -- Java 大数据在智慧文旅旅游景区游客情感分析与服务改进中的应用实践(226)
本篇文章探讨了 Java 大数据在智慧文旅景区中的创新应用,重点分析了如何通过数据采集、情感分析与可视化等技术,挖掘游客情感需求,进而优化景区服务。文章结合实际案例,展示了 Java 在数据处理与智能推荐等方面的强大能力,为文旅行业的智慧化升级提供了可行路径。
Java 大视界 -- Java 大数据在智慧文旅旅游景区游客情感分析与服务改进中的应用实践(226)
|
3月前
|
机器学习/深度学习 数据采集 数据可视化
Java 大视界 -- 基于 Java 的大数据可视化在城市空气质量监测与污染溯源中的应用(216)
本文探讨Java大数据可视化在城市空气质量监测与污染溯源中的创新应用,结合多源数据采集、实时分析与GIS技术,助力环保决策,提升城市空气质量管理水平。
Java 大视界 -- 基于 Java 的大数据可视化在城市空气质量监测与污染溯源中的应用(216)
|
3月前
|
存储 监控 数据可视化
Java 大视界 -- 基于 Java 的大数据可视化在企业生产运营监控与决策支持中的应用(228)
本文探讨了基于 Java 的大数据可视化技术在企业生产运营监控与决策支持中的关键应用。面对数据爆炸、信息孤岛和实时性不足等挑战,Java 通过高效数据采集、清洗与可视化引擎,助力企业构建实时监控与智能决策系统,显著提升运营效率与竞争力。
|
3月前
|
Java 大数据 数据处理
Java 大视界 -- 基于 Java 的大数据实时数据处理在工业互联网设备协同制造中的应用与挑战(222)
本文探讨了基于 Java 的大数据实时数据处理在工业互联网设备协同制造中的应用与挑战。文章分析了传统制造模式的局限性,介绍了工业互联网带来的机遇,并结合实际案例展示了 Java 在多源数据采集、实时处理及设备协同优化中的关键技术应用。同时,也深入讨论了数据安全、技术架构等挑战及应对策略。
|
3月前
|
数据采集 搜索推荐 Java
Java 大视界 -- Java 大数据在智能教育虚拟学习环境构建与用户体验优化中的应用(221)
本文探讨 Java 大数据在智能教育虚拟学习环境中的应用,涵盖多源数据采集、个性化推荐、实时互动优化等核心技术,结合实际案例分析其在提升学习体验与教学质量中的成效,并展望未来发展方向与技术挑战。
|
3月前
|
机器学习/深度学习 人工智能 自然语言处理
Java 大视界 -- Java 大数据机器学习模型在自然语言生成中的可控性研究与应用(229)
本文深入探讨Java大数据与机器学习在自然语言生成(NLG)中的可控性研究,分析当前生成模型面临的“失控”挑战,如数据噪声、标注偏差及黑盒模型信任问题,提出Java技术在数据清洗、异构框架融合与生态工具链中的关键作用。通过条件注入、强化学习与模型融合等策略,实现文本生成的精准控制,并结合网易新闻与蚂蚁集团的实战案例,展示Java在提升生成效率与合规性方面的卓越能力,为金融、法律等强监管领域提供技术参考。
|
3月前
|
存储 人工智能 算法
Java 大视界 -- Java 大数据在智能医疗影像数据压缩与传输优化中的技术应用(227)
本文探讨 Java 大数据在智能医疗影像压缩与传输中的关键技术应用,分析其如何解决医疗影像数据存储、传输与压缩三大难题,并结合实际案例展示技术落地效果。
|
3月前
|
机器学习/深度学习 安全 Java
Java 大视界 -- Java 大数据在智能金融反洗钱监测与交易异常分析中的应用(224)
本文探讨 Java 大数据在智能金融反洗钱监测与交易异常分析中的应用,介绍其在数据处理、机器学习建模、实战案例及安全隐私等方面的技术方案与挑战,展现 Java 在金融风控中的强大能力。
|
3月前
|
机器学习/深度学习 算法 Java
Java 大视界 -- Java 大数据机器学习模型在生物信息学基因功能预测中的优化与应用(223)
本文探讨了Java大数据与机器学习模型在生物信息学中基因功能预测的优化与应用。通过高效的数据处理能力和智能算法,提升基因功能预测的准确性与效率,助力医学与农业发展。
|
3月前
|
机器学习/深度学习 搜索推荐 数据可视化
Java 大视界 -- Java 大数据机器学习模型在电商用户流失预测与留存策略制定中的应用(217)
本文探讨 Java 大数据与机器学习在电商用户流失预测与留存策略中的应用。通过构建高精度预测模型与动态分层策略,助力企业提前识别流失用户、精准触达,实现用户留存率与商业价值双提升,为电商应对用户流失提供技术新思路。