一种面向国产异构算力集群的作业调度方法及系统

    公开(公告)号:CN118519766A

    公开(公告)日:2024-08-20

    申请号:CN202410597016.9

    申请日:2024-05-14

    IPC分类号: G06F9/50

    摘要: 本公开提出一种面向国产异构算力集群的作业调度方法及系统,方法包括:在一个调度周期中,根据待调度作业的资源量、算力类型请求,及节点的算力类型标签,从异构算力集群中筛选出候选节点;考虑异构算力资源的性能差异,基于加权轮询计算候选节点权重,将权重最高的候选节点作为第一目标节点;根据异构算力集群及候选节点中各类资源占比对候选节点的资源使用空间进行评分,将评分最高的候选节点作为第二目标节点;随机选择最终目标节点,将待调度作业调度到最终目标节点。本公开通过在节点预选阶段添加初次筛选提升节点预选效率,在节点优选阶段,考虑异构算力资源性能差异和集群的整体性,克服了负载不均衡、异构算力不兼容的问题。

    一种基于湖仓一体的高校关系数据处理方法和系统

    公开(公告)号:CN117112667A

    公开(公告)日:2023-11-24

    申请号:CN202311071030.7

    申请日:2023-08-24

    摘要: 本发明涉及一种基于湖仓一体的高校关系数据处理方法和系统,包括:将高校各业务系统原始数据抽取入湖仓及分割初始元数据入仓,并将有标签的元数据存入湖仓;构建初版高校数据标准映射字典,并将其数据标准中的中文简称同化成模型语义类别标签;对抽取入湖仓的未含有标注的元数据进行语义识别,基于模型语义类别标签对元数据标注进行纠错,并更新回填至湖仓的元数据标注中;基于数据仓库中的高校元数据标准映射字典,映射整合并构建分级分类的高校数据资产目录;实现数据资产目录发布及查询搜索。本发明构建了统一的高校元数据标准映射数据字典,实现业务系统与实现不同业务系统与高校统一元数据标准之间的关联映射,构建统一的数据资产目录。