一种面向运行可靠性和时延的多目标DNN推理任务部署方法和系统

    公开(公告)号:CN118433183A

    公开(公告)日:2024-08-02

    申请号:CN202410617407.2

    申请日:2024-05-17

    摘要: 本发明提供一种面向运行可靠性和时延的多目标DNN推理任务部署方法和系统,所述方法包括:接收移动设备提出的DNN推理任务;获取包含中心云服务器、边缘服务器和移动设备的物理网络拓扑图;获取预设的用于多目标DNN推理任务部署寻优的种群数量和最大迭代次数;利用多目标遗传模型寻找优化的DNN推理任务部署,按照所述种群数量生成种群个体,对所有的种群个体进行多次迭代寻优,迭代达到所述最大迭代次数后,输出寻找到的优化后的DNN推理任务部署结果。其中,将所述物理网络拓扑图和所述DNN推理任务作为多目标遗传模型的输入,多目标遗传模型的多目标优化方向包含高运行可靠性和低延迟性,多目标遗传模型的约束条件包含推理总时延约束。

    分布式算力网络服务的动态扩缩容方法、装置及存储介质

    公开(公告)号:CN117527814A

    公开(公告)日:2024-02-06

    申请号:CN202311423422.5

    申请日:2023-10-30

    IPC分类号: H04L67/1031 H04L41/12

    摘要: 本发明提供一种分布式算力网络服务的动态扩缩容方法、装置及存储介质,该方法包括:获取目标算力网络服务请求;目标算力网络服务请求中包括算力节点拓扑和算力节点资源;获取预先构建的目标模型;在目标算力网络服务请求为时延敏感请求的情况下,将算力节点拓扑和算力节点资源输入目标模型,得到目标算力节点对应的部署方案;按照部署方案将目标算力节点部署在分布式算力网络中;能够解决在网络流量和服务拓扑变化的情况下,无法实现对算力网络服务动态扩缩容的问题;实现对算力网络服务的动态扩缩容;同时,能够在多个节点之间有效地分配资源,从而优化整个算力网络的性能,确保每个节点都得到适当的资源分配,从而提高整个算力网络的效率。

    物联网入侵检测模型训练方法和装置、个性化检测方法

    公开(公告)号:CN115834232A

    公开(公告)日:2023-03-21

    申请号:CN202211645981.6

    申请日:2022-12-20

    摘要: 本申请提供物联网入侵检测模型训练方法和装置、个性化检测方法,方法包括:基于个性化联邦学习算法,采用本地网络流量数据训练本地物联网入侵检测的个性化模型,并基于所述个性化模型更新物联网入侵检测模型,以得到更新后的通用模型参数;将更新后的通用模型参数发送至自身所在的联邦学习系统中的服务器,以使该服务器对该通用模型参数和其接收自其他客户端设备的各个通用模型参数进行聚合以更新所述物联网入侵检测模型的全局通用模型参数。本申请能够保障隐私安全,有效地克服数据异质性,为本地数据量少的物联网设备训练出有效的、全面的入侵检测模型。

    一种码率自适应选择方法及装置
    5.
    发明公开

    公开(公告)号:CN116156228A

    公开(公告)日:2023-05-23

    申请号:CN202310085087.6

    申请日:2023-01-28

    摘要: 本发明提供一种码率自适应选择方法及装置,所述方法包括:获取当前视频块的状态空间、下一视频块的动作空间以及预设强化学习模型,将当前视频块状态空间中的向量部分输入一维卷积层得到第一特征向量,将状态空间中的标量输入第一全连接层得到第二特征向量,将第一特征向量和第二特征向量输入第二全连接层得到第三特征向量后输入Softmax层传输下一视频块时选择的各码率副本的概率,并通过内外奖励折扣累计值对预设强化学习模型的参数进行更新。本发明能够使得预设强化学习模型输出的码率副本最大化提高用户观看视频时的体验质量,同时减少视频块缓冲对用户体验质量的影响。