发明公开
- 专利标题: 基于知识蒸馏的面向多元时序预测图神经网络压缩方法
-
申请号: CN202211280622.5申请日: 2022-10-19
-
公开(公告)号: CN115936108A公开(公告)日: 2023-04-07
- 发明人: 向映宇 , 陈柏希 , 于振国 , 刘红文 , 王科 , 胡昌斌 , 胡浩卿 , 王翔 , 赵现平 , 聂鼎 , 何觅 , 程天泽 , 方倩
- 申请人: 云南电网有限责任公司昆明供电局
- 申请人地址: 云南省昆明市官渡区太和街道办事处吴井路98号
- 专利权人: 云南电网有限责任公司昆明供电局
- 当前专利权人: 云南电网有限责任公司昆明供电局
- 当前专利权人地址: 云南省昆明市官渡区太和街道办事处吴井路98号
- 代理机构: 南京禹为知识产权代理事务所
- 代理商 张台玉
- 主分类号: G06N3/096
- IPC分类号: G06N3/096 ; G06N3/082 ; G06N3/084 ; G06N3/0495 ; G06N3/0464 ; G06N3/045 ; G06N3/049
摘要:
本发明公开了基于知识蒸馏的面向多元时序预测图神经网络压缩方法,包括处理基于图神经网络的多元时序预测模型的时间卷积层,将膨胀的扩展卷积变成固定的扩展卷积;创建并训练处一个效果好的深层网络;构建一个浅层的神经网络;对深层网络与浅层网络进行协同训练,得到压缩后的浅层网络。本发明首先实现了对基于图神经网络的多元时序预测模型的压缩,在边缘计算场景中,减少模型的计算资源与内存资源需求,使得模型能够顺利部署,提高物联网设备的管理效率。其次,在压缩目标模型的过程中,保证压缩不会使得模型的精确度损失过大,保证压缩后模型的预测效果。