具有时延约束任务流场景下的自适应封装与协同推理方法

    公开(公告)号:CN113485803A

    公开(公告)日:2021-10-08

    申请号:CN202110729072.X

    申请日:2021-06-29

    摘要: 本发明公开了一种具有时延约束任务流场景下的自适应封装与协同推理方法,包括如下步骤:建立自适应边缘智能推理模型,包括用于接收任务的终端设备和用于制定任务卸载决策的边缘服务器;构建边缘服务器和终端设备的分支模型,所述分支模型均包括若干个分支,每个分支上均设有划分点和出口点,且出口点设置在每个分支的终端;根据任务的处理流程分别预测任务在终端设备和边缘服务器上的处理时间,以及任务的总处理时间;设定目标函数,若已知任务流的所有信息,采用动态规划的离线算法对目标函数进行优化,否则,采用深度强化学习的在线算法对目标函数进行优化。本发明提高了延迟限制下所权衡完成的任务数量和任务推断的准确性。

    一种算力网络中生成式人工智能的资源流动均衡策略方法

    公开(公告)号:CN118708342A

    公开(公告)日:2024-09-27

    申请号:CN202410801781.8

    申请日:2024-06-20

    申请人: 天津大学

    摘要: 本发明提供了一种算力网络中生成式人工智能的资源流动均衡策略方法,首先分析用户信息内容并建立层次树状结构,通过层次树状结构得到信息熵分析资源消耗;其次构建流体模型,提出了流体止步均衡策略以得到流体水平的稳态分布,进而基于Laplace Stieltjes变换得到平均流体水平,基于平均流体水平分析得到单位流体的能量成本,最终得出单位时间的平均社会福利这一优化问题的定义。最后,基于扩散模型求解优化问题。本发明采用上述的一种算力网络中生成式人工智能的资源流动均衡策略方法,实现经济高效的算力资源均衡,动态调整系统策略,以最大化CPNs层的平均社会福利。

    一种基于超图分区的算力网络任务卸载的方法

    公开(公告)号:CN118113367A

    公开(公告)日:2024-05-31

    申请号:CN202410074605.9

    申请日:2024-01-18

    申请人: 天津大学

    摘要: 本发明公开了一种基于超图分区的算力网络任务卸载的方法,属于算力网络任务卸载技术领域,包括以下步骤:步骤1、为任务卸载系统的任务建立超图表征模型;步骤2、建立任务卸载系统中的时延和能耗计算模型;步骤3、建立时延和能耗计算模型的优化目标;步骤4、使用基于超图分区和双层注意力机制的深度强化学习方法在任务卸载系统中学习,训练任务卸载预测网络。本发明提供了一种基于超图分区的算力网络任务卸载的方法,引入了超图来表征细粒度的异构任务和异构资源,并基于超图的深度强化学习解决了任务卸载中的能耗问题。