Dataphin功能Tips系列(75)质量规则调度配置系列(2)-固定任务触发调度

本文涉及的产品
智能数据建设与治理Dataphin,200数据处理单元
简介: Dataphin“固定任务触发调度”支持在任务成功或运行前触发质量规则校验。适用于表数据来源任务固定的场景,通过绑定强规则可阻断下游任务,防止脏数据扩散,提升数据质量管控能力。

👉🏻 场景

在上一篇Tips中,我们介绍了「数据更新触发调度」 的方式执行质量规则,这种方式适用于表的数据更新来源任务不固定、任务范围也比较广的情况。在涉及表数据更新的任务节点不会发生变更时,我们也可以通过「固定任务触发调度」的方式,进行质量规则的调度配置。

👉🏻 功能 / 解决方案

Dataphin 数据质量的 「固定任务触发调度」 功能,支持以下三种触发场景:

  • 所有任务都运行成功后触发
  • 每个任务每次运行成功后均触发
  • 每个任务每次运行前均触发

这里,以一张顾客信息表为例,我们不知道该表会被哪些下游任务所引用,但我们已知该表来源为某几个集成任务。因此,我们可以针对这些已知的集成任务节点配置「每个任务每次运行成功后均触发」质量规则校验,并通过强规则阻断下游任务运行(需要注意的是,这里提到的下游任务应该规范配置调度依赖,明确指定上述集成任务作为依赖项)。

  1. 在【治理】-【数据质量】-【质量规则】中,为 customer_id 字段设置“非空值校验”规则,并将规则类型设置为强规则,确保检测不通过时可直接阻断下游任务执行,防止脏数据扩散。

  2. 完成规则配置后,进入该对象的【调度配置】,点击新建调度。

  3. 在新建调度页面为调度命名,选择「固定任务触发调度」类型,触发时机为【每个任务每次运行成功后触发】,支持选择当前用户有运维权限的生产任务节点,系统也会展示产出当前表的任务作为推荐。

  4. 保存调度后,返回【规则配置】编辑对应质量规则,将其与刚创建的调度绑定,在该表的产出任务执行后,自动进行质量校验。


  5. 调度生效后,每次产出该信息表的任务执行完成后,系统会自动触发质量校验:
  1. 若通过,系统生成一条“通过”的校验记录,任务继续执行;
  2. 若不通过,系统生成一条“不通过”的校验记录,同时将该任务置为“运行失败”,并默认阻断下游任务运行,防止异常数据扩散。
相关文章
|
16天前
|
机器人 数据中心
Dataphin功能Tips系列(79)精准获知标准更新动态,协同治理更高效
Dataphin支持数据标准变更订阅,可实时通过站内信、邮箱或钉群机器人通知相关人员,确保业务及时响应。用户可通过标准列表、个人中心等入口批量订阅,变更消息包含状态、版本及跳转链接,便于快速查看与处理。
|
23天前
|
数据采集 监控 调度
Dataphin功能Tips系列(76)质量规则调度配置系列(3)-定时调度
Dataphin「定时调度」功能支持按需设定数据质量检测时间与频率,适用于定期检查数据质量问题的场景。提供手动配置和系统推荐两种方式,可自动执行规则并生成报告,帮助用户高效发现并处理问题。
|
23天前
|
数据管理
Dataphin功能Tips系列(78)自定义属性助力资产精细化管理
Dataphin V5.3升级自定义属性功能,支持多选、超链接及引用系统属性,实现资产“归口部门”与组织架构同步、指标看板一键跳转等场景,提升资产配置灵活性与管理效率。
|
23天前
|
数据采集 调度
Dataphin功能Tips系列(74)质量规则调度配置系列(1)-数据更新触发调度
Dataphin通过“数据更新触发调度”功能,结合强规则校验,可在订单表数据更新时自动触发质量检查,异常时阻断下游任务,有效防止脏数据扩散,保障关键业务链路的数据准确性与稳定性。
|
24天前
|
安全 数据安全/隐私保护
Dataphin功能Tips系列(73)Dataphin行级权限:构建灵活高效的权限管理体系
Dataphin行级权限通过“控制字段”实现精细化数据管控,有效避免传统字段权限过度开放带来的安全风险,提升权限管理效率与灵活性,满足复杂场景下的数据安全需求。
|
23天前
Dataphin功能Tips系列(77)如何实现数据资产上下架的精准管控与高效流转
在企业数据治理中,Dataphin支持按资产范围灵活配置上下架审批流程。通过标签、项目等条件圈选资产,绑定自定义审批模板,实现核心资产精细管控与大规模资产高效流转的平衡,提升数据运营效率。
|
24天前
|
SQL 人工智能 搜索推荐
Dataphin功能Tips系列(71)X-数据管家:数据资产运营的「AI外挂」
企业数据资产繁多,手动管理效率低易出错。Dataphin「X-数据管家」基于大模型智能生成标签、描述、字段类型等信息,支持批量处理与一键上架,大幅提升资产运营效率,实现高效数据治理。
86 15
|
24天前
|
数据采集 SQL 数据可视化
Dataphin功能Tips系列(72)一键数据探查,打造高质量数据开发、分析流程
Dataphin数据探查功能助力高效识别数据质量问题,支持手动与自动两种探查模式。通过一键生成质量报告,快速检测空值、异常值、重复值等问题,全面掌握数据分布与健康状况,提升数据准备与分析准确性。
117 7
|
3月前
|
搜索推荐 数据管理
Dataphin功能Tips系列(70)自定义菜单:构建一站式数据管理平台
Dataphin通过自定义菜单功能,支持嵌入企业其他平台URL,实现统一的数据开发与管理平台,提升团队协作效率。
132 8
|
2月前
|
SQL 运维 关系型数据库
【产品升级】Dataphin V5.0版本发布:助力出海业务、增全量一体集成、异步调用API等更多功能等你发现
Dataphin是瓴羊推出的智能数据建设与治理平台,基于阿里巴巴内部实践,提供一站式数据建设与治理能力。V5.0版本研发新增支持Databricks作为离线计算引擎、支持MySQL数据库一键增全量同步、支持管理Hudi、Delta Lake表等;资产运营与消费持续提效,支持批量编辑目录名称及描述、Quick BI仪表板的上架管理等功能,增加资产可用性与盘点效率。
196 8

热门文章

最新文章