一种基于强化学习的车联网边缘计算资源调度方法

    公开(公告)号:CN117762643A

    公开(公告)日:2024-03-26

    申请号:CN202410024338.4

    申请日:2024-01-08

    摘要: 本发明公开一种基于强化学习的车联网边缘计算资源调度方法;属于车载边缘计算技术领域;利用LSTM模型对预处理后的数据进行训练,预测数据的流行度;结合强化学习的当前状态进行训练,将流行度作为强化学习的状态;根据从边缘设备计算的时延以及消耗的能量作为奖励R,得到最优的任务卸载策略;主边缘设备根据接收的从边缘设备发送的计算结果进行任务处理的性能评估,将性能评估结果作为奖励R反馈给强化学习训练过程得到更新后的Q值,主边缘设备对任务卸载策略进行再优化,进一步调整任务资源分配;根据车辆状态和任务类型等因素,动态地调整资源分配策略,能够高效地利用车辆边缘计算的资源,提高计算的效率、性能和资源利用率。

    一种面向深度学习分层模型的协同推理方法

    公开(公告)号:CN116166444A

    公开(公告)日:2023-05-26

    申请号:CN202310459836.7

    申请日:2023-04-26

    IPC分类号: G06F9/50 G06N3/08 G06N5/04

    摘要: 本发明属于端边协同计算领域,公开了一种面向深度学习分层模型的协同推理方法,对深度学习分层模型采取逐层分割的方案,通过边缘计算节点处理速度这一状态信息,只需做一次统一决策,即可为节点匹配计算量合适的不同层推理子任务;还使用网络遥测技术感知节点间网络状态,当出现阻塞问题时即刻对上述整体决策做出相应调整;既降低了决策复杂度,又降低推理时延的同时,同时还提高了边缘节点的资源利用率,保证资源的合理分配。

    一种面向深度学习分层模型的协同推理方法

    公开(公告)号:CN116166444B

    公开(公告)日:2023-07-04

    申请号:CN202310459836.7

    申请日:2023-04-26

    IPC分类号: G06F9/50 G06N3/08 G06N5/04

    摘要: 本发明属于端边协同计算领域,公开了一种面向深度学习分层模型的协同推理方法,对深度学习分层模型采取逐层分割的方案,通过边缘计算节点处理速度这一状态信息,只需做一次统一决策,即可为节点匹配计算量合适的不同层推理子任务;还使用网络遥测技术感知节点间网络状态,当出现阻塞问题时即刻对上述整体决策做出相应调整;既降低了决策复杂度,又降低推理时延的同时,同时还提高了边缘节点的资源利用率,保证资源的合理分配。

    面向全局时延优化的云边端协同CNN推理方法及系统

    公开(公告)号:CN116455768B

    公开(公告)日:2023-09-12

    申请号:CN202310713616.2

    申请日:2023-06-16

    摘要: 本发明公开了面向全局时延优化的云边端协同CNN推理方法,通过构建训练分块推理时延预测模型、计算理论数据传输时延、构建并训练时延损耗预测模型、构建全局时延预测模型;利用全局时延预测模型计算各个边缘服务器的理论全局时延,以全局时延最小化为优化目标,决定参与协同推理的边缘服务器的选择和推理任务量的分配。本发明同时提出面向全局时延优化的云边端协同CNN推理系统。相较于传统的协同推理研究工作在时延指标制定方面仅关注当前推理任务的时延优化,本方法将处理当前推理任务对其他并行处理的推理任务可能产生的时延影响也纳入了决策考量范围,同时,本发明还提供一种CNN分割优化方法,能够有效节省协同推理中的决策时延。

    面向全局时延优化的云边端协同CNN推理方法及系统

    公开(公告)号:CN116455768A

    公开(公告)日:2023-07-18

    申请号:CN202310713616.2

    申请日:2023-06-16

    摘要: 本发明公开了面向全局时延优化的云边端协同CNN推理方法,通过构建训练分块推理时延预测模型、计算理论数据传输时延、构建并训练时延损耗预测模型、构建全局时延预测模型;利用全局时延预测模型计算各个边缘服务器的理论全局时延,以全局时延最小化为优化目标,决定参与协同推理的边缘服务器的选择和推理任务量的分配。本发明同时提出面向全局时延优化的云边端协同CNN推理系统。相较于传统的协同推理研究工作在时延指标制定方面仅关注当前推理任务的时延优化,本方法将处理当前推理任务对其他并行处理的推理任务可能产生的时延影响也纳入了决策考量范围,同时,本发明还提供一种CNN分割优化方法,能够有效节省协同推理中的决策时延。

    基于边缘计算节点打分表的深度学习模型分层卸载方法

    公开(公告)号:CN115562760B

    公开(公告)日:2023-05-30

    申请号:CN202211469689.3

    申请日:2022-11-22

    摘要: 本发明公开了一种基于边缘计算节点打分表的深度学习模型分层卸载方法,属于边端协同计算技术领域。本发明离线获取边缘集群中各边缘计算节点算力参数,可提取每个计算节点的算力综合分数并做归一化处理得到总分,根据各个计算节点的总分形成打分表;同时离线统计深度学习模型各层计算量大小,通过统计参与推理的深度学习模型每一层计算量的大小情况并对其分区,根据不同边缘计算节点对不同计算量大小的计算能力差异,然后依据此分类对边缘计算节点打分表划分区间,从而合理的分配给计算能力充足的边缘计算节点,最终提高边缘集群中节点的资源利用率、降低计算时延。本发明可以降低整体时延的同时保证数据安全性和提高边缘节点资源的利用率。

    基于边缘计算节点打分表的深度学习模型分层卸载方法

    公开(公告)号:CN115562760A

    公开(公告)日:2023-01-03

    申请号:CN202211469689.3

    申请日:2022-11-22

    摘要: 本发明公开了一种基于边缘计算节点打分表的深度学习模型分层卸载方法,属于边端协同计算技术领域。本发明离线获取边缘集群中各边缘计算节点算力参数,可提取每个计算节点的算力综合分数并做归一化处理得到总分,根据各个计算节点的总分形成打分表;同时离线统计深度学习模型各层计算量大小,通过统计参与推理的深度学习模型每一层计算量的大小情况并对其分区,根据不同边缘计算节点对不同计算量大小的计算能力差异,然后依据此分类对边缘计算节点打分表划分区间,从而合理的分配给计算能力充足的边缘计算节点,最终提高边缘集群中节点的资源利用率、降低计算时延。本发明可以降低整体时延的同时保证数据安全性和提高边缘节点资源的利用率。