开发网站合同,wordpress纯代码点赞,青岛专业制作网站的公司,wordpress 群发消息目录
一、DolphinScheduler架构原理
1.1 系统架构图
1.2 DolphinScheduler核心概念
1.2 创建工作流
1.2.1 如何触发一个工作流实例
1.2.2 任务调度链路监控
1.2.3 Workflow-DAG解析
DAG解析 Dispatch分发流程
Master和Worker的交互过程
1.3 任务运行状态 该篇文章主…目录
一、DolphinScheduler架构原理
1.1 系统架构图
1.2 DolphinScheduler核心概念
1.2 创建工作流
1.2.1 如何触发一个工作流实例
1.2.2 任务调度链路监控
1.2.3 Workflow-DAG解析
DAG解析 Dispatch分发流程
Master和Worker的交互过程
1.3 任务运行状态 该篇文章主要介绍DolphinScheduler-3.2.0工作流实例的工作周期
一、DolphinScheduler架构原理
1.1 系统架构图 在介绍之前先对架构进行简单介绍。 内部服务主要分为四个部分
1API服务用于与UI交互
2用于告警通知的Alert服务
3主节点master和工作节点worker是去中心化的可以部署多个Master和多个Worker它们可以分布在不同的位置并独立工作。
4工作流运行在Master节点上具体的任务节点在 Worker 节点上运行例如 shell、Python、Flink 和 Spark 等任务节点。
1.2 DolphinScheduler核心概念 为更好的了解DolphinScheduler ,先介绍其核心概念
Process工作流由任务以有向无环图形式构成执行时解析一个工作流为多个任务可设置工作流优先级工作执行全局参数、超时告警Task任务调度执行的最小单元包含Shell、Spark、Flink、Sql、MR等多种类型。可设置任务执行优先级、任务执行参数、超时告警、超时失败Command待调度指令工作流经手动调度或定时调度生成的数据存储在数据库DB中Instance任务实例任务执行后会生成相应的实例记录执行时任务的状态及执行内容任务实例可查看下载日志Master调度服务提供对工作流手动调度、定时调度、超时告警、任务容错、任务执行监控等功能Worker运行服务解析工作流识别任务类型调用对应任务类型的逻辑生成任务实例Alert告警服务可通过Email、FTP、微信等多种方式告知工作流、任务执行结果。 下面具体展示调度任务的创建、被调度执行的过程
根据具体的业务需求通过Web界面以DAG形式创建工作流生成Process并落库手动调度或定时调度生成待调度指令Command存储在数据库DB中Master监听读取Command记录解析后动态分配至Worker选择对应的任务类型执行Worker执行完成后生成Process Instance工作流实例、Task Instance任务实例并落库Alert告警模块监听Instance实例通过Email等发送任务执行结果。
1.2 创建工作流
1.2.1 如何触发一个工作流实例 接下来让我们看看如何创建工作流实例。 简单来说我们可以通过页面、客户端或命令行等方式触发工作流实例的启动。不管是通过页面运行、使用客户端提交还是运行数系统都会创建一条待调度指令Command并先存储在数据库中然后Master进行异步轮询处理每个 Master 会根据自己的下标来获取需要自己处理的 Command并将Command转化为工作流实例。
1.2.2 任务调度链路监控 为了保障调度任务的稳定性有必要对任务调度的生命周期进行监控。DolphinScheduler服务调度任务的全流程是先从quartz中产生Command然后将Command转化为工作流实例再从工作流实例生成一系列对应的任务实例需要对该任务链路的生命周期进行监控。 1例如通过监控quartz元数据发现漏调度和重复调度问题。
2例如监控command表积压情况从而监控master是否服务正常以及master服务的性能是否能够满足需求
3例如通过监控任务实例等待提交时间从而监控worker服务是否正常以及worker服务的性能是否能够满足需求。 通过如上的全生命周期监控可以及时发现worker服务的性能问题尽早解决避免影响到用户调度服务。
1.2.3 Workflow-DAG解析
DAG解析 此时Master 就开始对工作流实例进行处理这涉及到DAG解析的三个步骤①DAG 构建、②任务数据初始化、③任务节点提交。 ①DAG构建的目的是获取一个工作流节点的拓扑图具体取决于任务节点的设置和状态。②数据初始化的处理是当工作流实例重跑或容错的场景下此时需要加载一些历史数据并跳过已成功执行的任务。③提交任务节点根据DAG拓扑图开始从 DAG 中获取下一个要提交的任务节点并将其提交到任务队列中最后将其分发Worker节点执行。当处理完任务实例后会从DAG拓扑继续找出它的下游节点提交分发循环处理直到整个DAG运行完成。 Dispatch分发流程 对于 Dispatch分发流程首先有一个Worker group的概念即对一个或几个Worker节点打上分组的标签。比如 Spark 集群组Flink 集群组配置的任务时可以配置Worker分组在dispatch分发时只会分发到对应的目标Worker组。 目前DS使用 lower-weight的分发策略来确定最优的Dispatch分发对象结合心跳机制worker 每5秒上报一次心跳到注册中心汇报本轮自己的状态是否busy结合cpu、内存、当前处理任务数来判断Master定时从注册中心中获取worker心跳并将其存储到数据库DB中。
Master和Worker的交互过程 当任务实例被分发给Worker节点后涉及到 Master 和 Worker 之间的交互。在正常流程下当任务实例分发给 Worker 节点后工作节点不会立即执行任务而是将任务放入队列中然后由另一个线程来消费。 Worker接收任务成功Master会将任务实例的状态设置为已分发并记录下对应的Worker host。当Worker真正开始执行任务时它会向Master 发送消息反馈任务正在 RunningMaster 收到后会回复ack 确认以确保通信的稳定性不会丢失任何信息。 当Worker处理完任务后会发送任务Finish的消息Master收到后更新任务的状态、参数和应用信息。
1.3 任务运行状态 在介绍了正常流程后还有一些与运行状态相关的操作例如暂停和停止。我们可以通过页面上的操作来触发这些操作例如触发停止实际上任务的停止是执行在 Worker 节点上的完成后也会经过 Finish-ack 的流程。 此外还有一些超时检测Master会检测任务是否达到超时时间点如果达到终止时间点它会发送一个事件给对应的Worker进行相应的处理。 监听机制例如当 Worker 节点挂掉时Master会通过注册中心监听到并进行任务容错处理。如果 Master 节点挂掉其他 Master 节点将进行抢锁来接管工作流实例确保系统的正常运行。 参考文章
Apache DolphinScheduler 在奇富科技的首个调度异地部署实践
https://mp.weixin.qq.com/s/r9_cDkErlcChgu3wA5o2Iw
浅析 Apache DolphinScheduler 工作流实例的生命周期
