一种基于云边端协同的深度学习模型推理加速方法

    公开(公告)号:CN115034390B

    公开(公告)日:2022-11-18

    申请号:CN202210961978.9

    申请日:2022-08-11

    摘要: 本发明公开了一种基于云边端协同的深度学习模型推理加速方法,具体涉及一种深度学习模型分层卸载方法。该方法通过对整个深度学习模型推理过程中的计算时延、数据传输时延、数据传播时延和模型分层卸载策略生成时延进行理论建模,并以计算任务响应时延最小为优化目标,决定最优深度学习模型的分层卸载策略。相较于以物理端为主导和以云计算中心为主导的深度学习模型执行框架,本方法通过将边缘计算范式和云计算结合起来,并将深度学习模型分层卸载至不同的边缘计算节点,在满足计算精度的前提下,实现计算任务响应时延最小化。

    一种结合区块链的物联网边缘网络路由系统

    公开(公告)号:CN114710437B

    公开(公告)日:2022-08-23

    申请号:CN202210632873.9

    申请日:2022-06-07

    IPC分类号: H04L45/00 H04L67/10 H04L67/12

    摘要: 本发明提供了一种结合区块链的物联网边缘网络路由系统,系统内部同步运行有一种智能路由算法,本系统应用于网络内部的管理控制。所述系统由海量异构设备层、边缘网络设备层、知识共享平面三层组成,其中边缘网络设备层分为数据平面和控制平面,数据平面通过网络遥测技术探测网络状态信息,并上传至控制平面,控制平面通过路由算法进行在线决策并下发配置指令,数据平面根据控制平面下发的配置指令进行具体的路由处理操作;最终产生网络知识并上传至知识共享平面。知识共享平面利用区块链技术构建知识联盟链,各个边缘网络设备可以借助联盟链将知识共享给其他设备,修改路由算法的学习过程,从而在全局层面提升网络性能。

    一种结合区块链的物联网边缘网络路由架构

    公开(公告)号:CN114710437A

    公开(公告)日:2022-07-05

    申请号:CN202210632873.9

    申请日:2022-06-07

    IPC分类号: H04L45/00 H04L67/10 H04L67/12

    摘要: 本发明提供了一种结合区块链的物联网边缘网络路由架构,架构内部同步运行有一种智能路由算法,本架构应用于网络内部的管理控制。所述架构由海量异构设备层、边缘网络设备层、知识共享平面三层组成,其中边缘网络设备层分为数据平面和控制平面,数据平面通过网络遥测技术探测网络状态信息,并上传至控制平面,控制平面通过路由算法进行在线决策并下发配置指令,数据平面根据控制平面下发的配置指令进行具体的路由处理操作;最终产生网络知识并上传至知识共享平面。知识共享平面利用区块链技术构建知识联盟链,各个边缘网络设备可以借助联盟链将知识共享给其他设备,修改路由算法的学习过程,从而在全局层面提升网络性能。

    一种面向深度学习分层模型的协同推理方法

    公开(公告)号:CN116166444B

    公开(公告)日:2023-07-04

    申请号:CN202310459836.7

    申请日:2023-04-26

    IPC分类号: G06F9/50 G06N3/08 G06N5/04

    摘要: 本发明属于端边协同计算领域,公开了一种面向深度学习分层模型的协同推理方法,对深度学习分层模型采取逐层分割的方案,通过边缘计算节点处理速度这一状态信息,只需做一次统一决策,即可为节点匹配计算量合适的不同层推理子任务;还使用网络遥测技术感知节点间网络状态,当出现阻塞问题时即刻对上述整体决策做出相应调整;既降低了决策复杂度,又降低推理时延的同时,同时还提高了边缘节点的资源利用率,保证资源的合理分配。

    一种面向深度学习分层模型的协同推理方法

    公开(公告)号:CN116166444A

    公开(公告)日:2023-05-26

    申请号:CN202310459836.7

    申请日:2023-04-26

    IPC分类号: G06F9/50 G06N3/08 G06N5/04

    摘要: 本发明属于端边协同计算领域,公开了一种面向深度学习分层模型的协同推理方法,对深度学习分层模型采取逐层分割的方案,通过边缘计算节点处理速度这一状态信息,只需做一次统一决策,即可为节点匹配计算量合适的不同层推理子任务;还使用网络遥测技术感知节点间网络状态,当出现阻塞问题时即刻对上述整体决策做出相应调整;既降低了决策复杂度,又降低推理时延的同时,同时还提高了边缘节点的资源利用率,保证资源的合理分配。

    基于深度强化学习的网络智能管控架构系统和运行方法

    公开(公告)号:CN114640568A

    公开(公告)日:2022-06-17

    申请号:CN202210536555.2

    申请日:2022-05-18

    摘要: 本发明公开了基于深度强化学习的网络智能管控架构系统和运行方法,应用于网络内部的管理控制。其中架构系统由数据平面、控制平面以及管理平面组成。运行方法为:数据平面通过网络遥测技术探测网络中的各类数据,控制平面接收数据平面上传数据,通过深度强化学习技术进行在线决策并下发配置指令,数据平面接收指令对网络内设备进行处理。管理平面根据各分布式控制平面上传的网络状态数据进行学习,并将知识共享到各分布式控制平面。本发明基于深度强化学习技术,可实现网络内部的智能管控,有效提高网络内部资源利用率。