一种基于大数据业务的任务调度方法及系统

    公开(公告)号:CN112667375A

    公开(公告)日:2021-04-16

    申请号:CN202011523358.4

    申请日:2020-12-22

    IPC分类号: G06F9/48 G06F9/54

    摘要: 一种基于大数据业务的任务调度方法及系统,包括:基于用户构建的DAG依赖图生成DAG文件,并将DAG文件上传至调度服务装置,将相关依赖文件同步至执行装置:调度服务装置从自身的进程池中选取1个调度进程,并将DAG文件分配给选取的调度进程;调度进程解析DAG文件,创建流程批次实例和流程中所有组件分别对应的任务实例,然后构建1个任务状态表,最后从DAG文件中提取需要执行的任务实例,并推送到任务消息队列中;执行装置按序执行任务消息队列中的任务实例,并根据执行结果更新任务实例在任务状态表中的状态。本发明属于信息技术领域,能在大数据业务的多任务调度中,既支持组件的即插即用,又满足多任务之间的复杂依赖需求。