一种基于复杂异构环境的微服务调度方法及其实现系统

    公开(公告)号:CN112068943A

    公开(公告)日:2020-12-11

    申请号:CN202010933828.8

    申请日:2020-09-08

    Abstract: 本发明涉及一种复杂异构环境下的微服务调度方法及其实现系统,包括:(1)第一级调度:实时获取所有物理服务器、虚拟机、服务及微服务的基本信息,将有调用关系的微服务调度到关系距离更近的虚拟机中;保证各个微服务之间调用的高性能;(2)第二级调度:在业务应用运行过程中,统计一个时间段内虚拟机之间通信的延时和微服务之间的调用频繁程度,动态更新虚拟机之间的关系距离矩阵,周期性检查并迁移符合条件的微服务,保证调用频繁的微服务迁移到关系距离较近的虚拟机上。通过对微服务的两级调度之后,保证微服务能够被调度到合适的虚拟机上,尽量减少微服务跨虚拟机、跨物理服务器、跨网段调用,达到微服务之间高效调用的效果。

    一种基于微服务架构的服务调度方法及其实现系统

    公开(公告)号:CN111880898A

    公开(公告)日:2020-11-03

    申请号:CN202010731894.7

    申请日:2020-07-27

    Inventor: 张虎 厉承轩 郭莹

    Abstract: 本发明涉及一种基于微服务架构的服务调度方法及其实现系统,包括:(1)第一级调度:根据若干台宿主机的资源情况以及待调度的业务应用的基本信息,将不同副本之间有调用关系的子服务调度到相同的宿主机中;(2)第二级调度:在业务应用运行过程中,统计各个子服务之间的调用关系,并根据调用关系系数周期性检查并迁移符合条件的子服务,将调用频繁的子服务迁移到相同的宿主机中。本发明通过两级调度之后,保证业务应用服务的子服务调度到适合的宿主机中,最终达到在满足业务应用服务高可用的前提下,尽量将有调用关系的子服务调度到同一台宿主机中,减少跨服务器和跨区域调用带来的时间延迟,提高子服务之间调用的性能。

    一种基于性价比的虚拟化资源调度优化方法

    公开(公告)号:CN104199724A

    公开(公告)日:2014-12-10

    申请号:CN201410456973.6

    申请日:2014-09-10

    Abstract: 本发明的基于性价比的虚拟化资源调度优化方法,用户申请资源时,根据申请的虚拟资源配置将其所属的整合比区间中;在系统运行时,周期性地判断物理服务器的类型,对于重负载服务器,将使用率小的若干虚拟资源迁移到本区间内整合比上升的或者整合比更小的相邻区间的物理服务器上;对于轻负载服务器,将使用率大的若干虚拟资源迁移到本区间内整合比下降的或者整合比更大的相邻区间的物理服务器上。本发明的资源调度优化方法,一方面,同一整合比区间内的高负载虚拟资源会被迁移到整合比低的物理服务器上,使得用户用最少的费用占用了更多的物理资源;另一方面,对于轻负载虚拟资源在保证性能不受影响的前提下,会被迁移到整合比高的物理服务器上,可以降低运营成本。

    资源高效与服务质量感知的推理服务系统自适应调度方法

    公开(公告)号:CN115129477B

    公开(公告)日:2025-05-23

    申请号:CN202210918942.2

    申请日:2022-08-01

    Abstract: 本发明公开了一种资源高效与服务质量感知的推理服务系统自适应调度方法,包括:深度学习模型自动选择模块利用协同过滤方法预测推理工作负载在不同深度学习模型上运行的推理性能;深度学习模型自动选择模块利用贪婪算法选择满足用户服务质量需求的最优深度学习模型,并将最优深度学习模型部署至容器中为推理服务系统中的推理工作负载服务;协同管理模块利用深度强化学习方法,根据推理工作负载的动态变化,协同地调整GPU资源分配和批量大小设置,本发明可根据用户的需求自动地选择深度学习模型,可根据推理工作负载的动态变化协同地调整GPU资源的分配和批量大小的设置。

    一种基于混合集群的HPC作业集群感知方法

    公开(公告)号:CN114741161A

    公开(公告)日:2022-07-12

    申请号:CN202210487700.2

    申请日:2022-05-06

    Abstract: 本发明涉及一种基于混合集群的HPC作业集群感知方法,包括:A、获取传统虚拟化云集群环境和容器云集群环境作业运行日志记录信息;B、初构建、处理传统虚拟化云集群环境和容器云集群环境下的作业运行数据集;C、训练得到基于传统虚拟化云集群环境和容器云集群环境两种环境下的基于RFR随机森林回归算法的预测模型;D、根据用户提交的作业需求信息,预测模型给予运行时间、CPU使用率、内存使用率的预测;E、将作业运行结果信息对提交的作业进行集群感知模型的处理,最终形成HPC作业集群节点感知方法。本发明建立两种环境下的预测模型,并以预测结果为依据进行集群节点感知,达到了根据作业需求自动感知最佳集群节点的效果。

    一种基于性价比的虚拟化资源调度优化方法

    公开(公告)号:CN104199724B

    公开(公告)日:2017-07-18

    申请号:CN201410456973.6

    申请日:2014-09-10

    Abstract: 本发明的基于性价比的虚拟化资源调度优化方法,用户申请资源时,根据申请的虚拟资源配置将其所属的整合比区间中;在系统运行时,周期性地判断物理服务器的类型,对于重负载服务器,将使用率小的若干虚拟资源迁移到本区间内整合比上升的或者整合比更小的相邻区间的物理服务器上;对于轻负载服务器,将使用率大的若干虚拟资源迁移到本区间内整合比下降的或者整合比更大的相邻区间的物理服务器上。本发明的资源调度优化方法,一方面,同一整合比区间内的高负载虚拟资源会被迁移到整合比低的物理服务器上,使得用户用最少的费用占用了更多的物理资源;另一方面,对于轻负载虚拟资源在保证性能不受影响的前提下,会被迁移到整合比高的物理服务器上,可以降低运营成本。

Patent Agency Ranking