-
公开(公告)号:CN117785796A
公开(公告)日:2024-03-29
申请号:CN202410003678.9
申请日:2024-01-02
申请人: 上海交通大学
IPC分类号: G06F15/82 , G06F15/177 , G06F9/38
摘要: 一种基于中心‑单机双端交互架构的轨迹采集选核方法及系统,由中心控制端进行对应用轨迹的采集指令下发,中心控制端根据采集指令缓存发送指令,当缓存未命中则由单机端进行指令生成;单机端接收指令后,通过采集指令解析判断采集指令为默认指令时,根据Binary检测、线程数检测、单机负载检测以及随机选核生成对应指令进行PT数据采集,否则根据指令中的采集配置进行采集;采集完毕后,单机端将采集数据包和采集指令反馈到中心控制端进行数据分析。本发明通过中心‑单机双端采集交互,基于硬件追踪的采集能力进行应用的执行程序流采集,能够显著提高采集数据的覆盖率以及整个采集流程的效能。
-
公开(公告)号:CN114205419B
公开(公告)日:2023-04-18
申请号:CN202111524128.4
申请日:2021-12-14
申请人: 上海交通大学
摘要: 一种面向微服务多维扰动特征的数据中心请求调度系统及方法,包括:微服务特征获取模块、微服务并行化模块和运行时优化模块,其中:微服务特征获取模块采集并刻画微服务的内部运行逻辑、微服务运行时间与资源供给关系以及微服务所处的网络条件三个方面的扰动特征;微服务并行化模块根据请求调用的微服务的扰动特征的互补性编排为最优的微服务并行化流水线各阶段;运行时优化模块解决微服务并行化流水线在实际运行时因扰动特征而造成的时间变化实时问题、资源变化实时问题和顺序变化实时问题;本发明通过采集并刻画不同微服务运行时的多维扰动特征并针对微服务运行时的多维扰动特征进行一种并行化的互补调度,搭建不同请求调用的不同微服务间的并行化流水线;本发明能够提高微服务架构应用请求调度的资源利用率和吞吐量。
-
公开(公告)号:CN116842994B
公开(公告)日:2024-03-01
申请号:CN202310805891.7
申请日:2023-07-03
申请人: 上海交通大学
IPC分类号: G06N3/045 , G06N3/0464 , G06N3/042 , G06N3/08 , G06N5/04
摘要: 一种多神经网络执行效率动态优化方法及系统,在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件,采用智能搜索算法寻找帕累托最优的调度配置,记录搜索过程中找到的所有候选配置,并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表;同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表;在在线阶段根据系统延迟需求,从最优配置查找表中选择匹配的最优调度配置,持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间,通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化,也能应对多硬件单元共享内存导致的性能干扰,解决了多个神(56)对比文件Yangjie Zhou, at el..“uGrapher:High-Performance Graph Poerator Computationvia Unified Abstraction for Graph NeuralNetworks”《.Proceeding of the 28th ACMIneternationial Conference onArchitectural Support for ProgrammingLanguages and Operating Systems》.2023,全文.任神河;郑寇全;关冬冬;惠军华.基于IFTS的云计算网络动态负载均衡方法.系统工程理论与实践.2019,(第05期),全文.
-
公开(公告)号:CN116842994A
公开(公告)日:2023-10-03
申请号:CN202310805891.7
申请日:2023-07-03
申请人: 上海交通大学
IPC分类号: G06N3/045 , G06N3/0464 , G06N3/042 , G06N3/08 , G06N5/04
摘要: 一种多神经网络执行效率动态优化方法及系统,在离线阶段针对预设的多神经网络推理负载和异构边缘计算硬件,采用智能搜索算法寻找帕累托最优的调度配置,记录搜索过程中找到的所有候选配置,并为每个候选延迟需求保存对应的低资源占用的调度配置作为最优配置查找表;同时采集每组待部署的神经网络推理负载在不同计算硬件执行状态下的执行延迟并存入执行延迟查找表;在在线阶段根据系统延迟需求,从最优配置查找表中选择匹配的最优调度配置,持续监控执行状态并预测所有神经网络推理负载的剩余总执行时间,通过反馈式频率调节机制确保延迟需求得到满足。本发明既能应对系统所处场景多样性导致的延迟需求变化,也能应对多硬件单元共享内存导致的性能干扰,解决了多个神经网络推理负载如何统一进行调度优化的问题。
-
公开(公告)号:CN116414556A
公开(公告)日:2023-07-11
申请号:CN202211548729.3
申请日:2022-12-05
申请人: 上海交通大学
IPC分类号: G06F9/50
摘要: 一种基于冗余算力的异构嵌入式设备电力分配系统及方法,包括:实时系统监测模块和实时电力分配模块,实时系统监测模块在嵌入式设备运行过程中监测回收其异构硬件中两类冗余算力以及监测嵌入式设备的实时状态;实时电力分配模块根据嵌入式设备的实时状态通过冗余算力运行强化学习辅助方法进行电力分配模型的学习调优和自适应的电力分配决策。本发明能够监测嵌入式设备任务周期运行过程中的两类未利用算力资源即冗余算力,并且利用两类冗余算力运行强化学习辅助的方法来完成电力分配决策,显著提高嵌入式设备的总体资源利用率和系统能效,保证电力分配的高实时性和自适应性。
-
公开(公告)号:CN116414556B
公开(公告)日:2024-01-30
申请号:CN202211548729.3
申请日:2022-12-05
申请人: 上海交通大学
IPC分类号: G06F9/50
摘要: 一种基于冗余算力的异构嵌入式设备电力分配系统及方法,包括:实时系统监测模块和实时电力分配模块,实时系统监测模块在嵌入式设备运行过程中监测回收其异构硬件中两类冗余算力以及监测嵌入式设备的实时状态;实时电力分配模块根据嵌入式设备的实时状态通过冗余算力运行强化学习辅助方法进行电力分配模型的学习调优和自适应的电力分配决策。本发明能够监测嵌入式设备任务周期运行过程中的两类未利用算力资源即冗余算力,并且利用两类冗余算力运行强化学习辅助的方法来完成电力分配决策,显著提高嵌入式设备的总体资源利用率和系统能效,保证电力分配的高实时性和自适应性。
-
公开(公告)号:CN114205419A
公开(公告)日:2022-03-18
申请号:CN202111524128.4
申请日:2021-12-14
申请人: 上海交通大学
摘要: 一种面向微服务多维扰动特征的数据中心请求调度系统及方法,包括:微服务特征获取模块、微服务并行化模块和运行时优化模块,其中:微服务特征获取模块采集并刻画微服务的内部运行逻辑、微服务运行时间与资源供给关系以及微服务所处的网络条件三个方面的扰动特征;微服务并行化模块根据请求调用的微服务的扰动特征的互补性编排为最优的微服务并行化流水线各阶段;运行时优化模块解决微服务并行化流水线在实际运行时因扰动特征而造成的时间变化实时问题、资源变化实时问题和顺序变化实时问题;本发明通过采集并刻画不同微服务运行时的多维扰动特征并针对微服务运行时的多维扰动特征进行一种并行化的互补调度,搭建不同请求调用的不同微服务间的并行化流水线;本发明能够提高微服务架构应用请求调度的资源利用率和吞吐量。
-
公开(公告)号:CN113238853B
公开(公告)日:2021-11-12
申请号:CN202110659654.5
申请日:2021-06-15
申请人: 上海交通大学
摘要: 一种基于函数中间表达的无服务器计算函数调度系统及方法,包括:函数特征获取模块、函数聚集模块、映射模块和调节模块,其中:函数特征获取模块获取函数的编程语言特征、函数的运行时阶段特征以及函数的微体系结构特征;函数聚集模块将函数按照不同的特征聚集成为不同的函数集合;映射模块根据不同的函数集合,将CPU核分为初始化阶段CPU核、运行时阶段CPU核以及混合CPU核;调节模块根据函数的特征和CPU核的分类将函数部署到指定的核上,并根据函数特征的变化对函数周期性地进行迁移以及每个核的频率调节,从而保证无服务器计算函数可以按照最优运行点运行。该系统可以提高无服务器计算系统的能效。
-
公开(公告)号:CN113238853A
公开(公告)日:2021-08-10
申请号:CN202110659654.5
申请日:2021-06-15
申请人: 上海交通大学
摘要: 一种基于函数中间表达的无服务器计算函数调度系统及方法,包括:函数特征获取模块、函数聚集模块、映射模块和调节模块,其中:函数特征获取模块获取函数的编程语言特征、函数的运行时阶段特征以及函数的微体系结构特征;函数聚集模块将函数按照不同的特征聚集成为不同的函数集合;映射模块根据不同的函数集合,将CPU核分为初始化阶段CPU核、运行时阶段CPU核以及混合CPU核;调节模块根据函数的特征和CPU核的分类将函数部署到指定的核上,并根据函数特征的变化对函数周期性地进行迁移以及每个核的频率调节,从而保证无服务器计算函数可以按照最优运行点运行。该系统可以提高无服务器计算系统的能效。
-
公开(公告)号:CN118260085A
公开(公告)日:2024-06-28
申请号:CN202410447414.2
申请日:2024-04-15
申请人: 上海交通大学
摘要: 一种QoS感知的CPU优化核粒度函数调度系统及方法,包括:核粒度的节点内调度器、函数分析器、频率调节器、延迟预测器、函数分析数据收集器、运行时数据收集器和函数执行器,本发明考虑真实调度过程中存在的开销,能够以CPU核心为调度粒度对函数进行计算资源分配并优化系统的能效表现,基于此实现服务器负载情况与函数处理优先级感知的系统功率调控系统,充分挖掘服务器无感知计算架构下的能效潜力。
-
-
-
-
-
-
-
-
-