-
公开(公告)号:CN115223049B
公开(公告)日:2022-12-13
申请号:CN202211140194.6
申请日:2022-09-20
申请人: 山东大学 , 国网浙江省电力有限公司温州供电公司 , 华北电力大学(保定) , 智洋创新科技股份有限公司 , 南瑞集团有限公司 , 山东省计算中心(国家超级计算济南中心)
IPC分类号: G06V20/10 , G06V10/74 , G06V10/774 , G06V10/82 , G06N3/08
摘要: 本发明属于压缩技术领域,具体提供了一种面向电力场景边缘计算大模型压缩的知识蒸馏与量化方法。其包括以下步骤:电力场景任务抽象;双层知识蒸馏网络单元构建;教师模型修饰处理;主从教师监督框架:基于教师‑学生蒸馏网络,使用多个数据集训练不同的教师模型,包括与目标任务类似的场景数据集和实际落地场景的数据集,将这些数据集进行划分,训练多个教师模型,按照数据集与落地场景相似度分配指导权重,分为主教师模型和若干个从教师模型,从而对学生模型进行不同层面的知识引导,提高学生模型在复杂场景下的泛化能力;学生模型压缩感知训练。
-
公开(公告)号:CN115223049A
公开(公告)日:2022-10-21
申请号:CN202211140194.6
申请日:2022-09-20
申请人: 山东大学 , 国网浙江省电力有限公司温州供电公司 , 华北电力大学(保定) , 智洋创新科技股份有限公司 , 南瑞集团有限公司 , 山东省计算中心(国家超级计算济南中心)
IPC分类号: G06V20/10 , G06V10/74 , G06V10/774 , G06V10/82 , G06N3/08
摘要: 本发明属于压缩技术领域,具体提供了一种面向电力场景边缘计算大模型压缩的知识蒸馏与量化技术。其包括以下步骤:电力场景任务抽象;双层知识蒸馏网络单元构建;教师模型修饰处理;主从教师监督框架:基于教师‑学生蒸馏网络,使用多个数据集训练不同的教师模型,包括与目标任务类似的场景数据集和实际落地场景的数据集,将这些数据集进行划分,训练多个教师模型,按照数据集与落地场景相似度分配指导权重,分为主教师模型和若干个从教师模型,从而对学生模型进行不同层面的知识引导,提高学生模型在复杂场景下的泛化能力;学生模型压缩感知训练。
-
公开(公告)号:CN115240075B
公开(公告)日:2022-12-13
申请号:CN202211154588.7
申请日:2022-09-22
申请人: 山东大学 , 智洋创新科技股份有限公司 , 国网浙江省电力有限公司温州供电公司 , 华北电力大学(保定) , 浙江大华技术股份有限公司 , 山东省计算中心(国家超级计算济南中心)
IPC分类号: G06V20/10 , G06V10/25 , G06V10/40 , G06V10/764 , G06V10/774 , G06V10/82 , G06T5/00 , G06N3/04 , G06N3/08
摘要: 本发明涉及输电线路巡检技术领域,具体涉及一种电力视觉多粒度预训练大模型的构建与训练方法,包括图像修复、图像分类、目标检测、图像描述四个粒度层级的视觉任务;采用多阶段的大模型训练方法,使得模型具有数据挖掘、增量训练和模型进化的功能;其中,第一阶段在海量公开数据集上训练,输出预训练大模型;第二阶段在大量无标签电力场景数据集上进行自监督训练,输出电力视觉多粒度预训练大模型;第三阶段利用大模型针对电力数据集进行隐患图像筛选,大大减轻了人工筛选代价,将隐患图像数据交由人工进行精细化标注,再次输入大模型进行迭代优化,使得视觉预训练大模型更加适配电力场景视觉任务需求。
-
公开(公告)号:CN115240075A
公开(公告)日:2022-10-25
申请号:CN202211154588.7
申请日:2022-09-22
申请人: 山东大学 , 智洋创新科技股份有限公司 , 国网浙江省电力有限公司温州供电公司 , 华北电力大学(保定) , 浙江大华技术股份有限公司 , 山东省计算中心(国家超级计算济南中心)
IPC分类号: G06V20/10 , G06V10/25 , G06V10/40 , G06V10/764 , G06V10/774 , G06V10/82 , G06T5/00 , G06N3/04 , G06N3/08
摘要: 本发明涉及输电线路巡检技术领域,具体涉及一种电力视觉多粒度预训练大模型的构建与训练方法,包括图像修复、图像分类、目标检测、图像描述四个粒度层级的视觉任务;采用多阶段的大模型训练方法,使得模型具有数据挖掘、增量训练和模型进化的功能;其中,第一阶段在海量公开数据集上训练,输出预训练大模型;第二阶段在大量无标签电力场景数据集上进行自监督训练,输出电力视觉多粒度预训练大模型;第三阶段利用大模型针对电力数据集进行隐患图像筛选,大大减轻了人工筛选代价,将隐患图像数据交由人工进行精细化标注,再次输入大模型进行迭代优化,使得视觉预训练大模型更加适配电力场景视觉任务需求。
-
公开(公告)号:CN111325347A
公开(公告)日:2020-06-23
申请号:CN202010106747.0
申请日:2020-02-19
申请人: 山东大学 , 智洋创新科技股份有限公司 , 浙江辉博电力设备制造有限公司 , 华北电力大学(保定)
摘要: 一种基于可解释视觉推理模型的危险预警描述自动生成方法,包括建立特定场景的先验知识库和训练数据库,通过迁移学习微调模型以得到针对该场景下的平面目标检测器和三维目标检测器;然后针对某一帧视频信息,通过平面目标检测器检测出所有目标类型和目标的平面位置特征,再并行地通过三维目标检测器得到所有目标的三维空间特征,并根据检测出的目标类型、结合先验知识库构造该帧视频下的关系任务图,将其通过图神经网络抽取特征后,融合上述的平面空间特征和三维空间特征,送入模块化的多层感知机中进行推理学习,最终得到该帧视频图像下存在的危险等级和具有危险关系的对象,最后结合先验知识库中的语义转换生成该帧视频图像所对应的中文描述。
-
公开(公告)号:CN111325347B
公开(公告)日:2023-04-11
申请号:CN202010106747.0
申请日:2020-02-19
申请人: 山东大学 , 智洋创新科技股份有限公司 , 浙江辉博电力设备制造有限公司 , 华北电力大学(保定)
IPC分类号: G06N5/04 , G06V20/40 , G06V10/82 , G06V10/80 , G06V10/774 , G06V20/70 , G06N3/042 , G06N3/045 , G06N3/096
摘要: 一种基于可解释视觉推理模型的危险预警描述自动生成方法,包括建立特定场景的先验知识库和训练数据库,通过迁移学习微调模型以得到针对该场景下的平面目标检测器和三维目标检测器;然后针对某一帧视频信息,通过平面目标检测器检测出所有目标类型和目标的平面位置特征,再并行地通过三维目标检测器得到所有目标的三维空间特征,并根据检测出的目标类型、结合先验知识库构造该帧视频下的关系任务图,将其通过图神经网络抽取特征后,融合上述的平面空间特征和三维空间特征,送入模块化的多层感知机中进行推理学习,最终得到该帧视频图像下存在的危险等级和具有危险关系的对象,最后结合先验知识库中的语义转换生成该帧视频图像所对应的中文描述。
-
公开(公告)号:CN111325323A
公开(公告)日:2020-06-23
申请号:CN202010102766.6
申请日:2020-02-19
申请人: 山东大学 , 智洋创新科技股份有限公司 , 国网浙江省电力有限公司衢州供电公司 , 国网浙江省电力有限公司
摘要: 一种融合全局信息和局部信息的输变电场景描述自动生成方法,旨在对输变电场景进行图像中文描述生成:利用深度学习和传统的计算机视觉技术相结合,提取图像的局部和全局的特征信息;将每个中文分词的语义信息与融合后的特征信息联系起来,对长短期记忆神经网络进行改进并加入双层注意力机制,建立的序列模型在每个时刻都会根据图像特征信息和语义信息产生一个注意力变量的分布,最后生成图像对应的中文描述。
-
公开(公告)号:CN110059694B
公开(公告)日:2020-02-11
申请号:CN201910318881.4
申请日:2019-04-19
申请人: 山东大学 , 智洋创新科技股份有限公司 , 国网浙江省电力有限公司
摘要: 本发明公开了电力行业复杂场景下的文字数据的智能识别方法。本方法在文本检测之前采用了一系列预处理,增强了取帧图片中的文字数据信息,弱化了无关信息,在识别后进行后处理并且采用了自然语言处理领域的CBOW模型进行了后处理,以此来提升检测和识别的效果。文本数据检测率为96%,识别准确率在85%左右,具有较高的准确率,同时在本地服务器上具有较快的运算速度,能够满足实时性的要求。同时本方法不仅适用于配电室环境,还适用于电气行业的各种复杂场景甚至自然场景,应用广泛。
-
公开(公告)号:CN111325323B
公开(公告)日:2023-07-14
申请号:CN202010102766.6
申请日:2020-02-19
申请人: 山东大学 , 智洋创新科技股份有限公司 , 国网浙江省电力有限公司衢州供电公司 , 国网浙江省电力有限公司
IPC分类号: G06V20/70 , G06V10/82 , G06V10/44 , G06V10/42 , G06V10/80 , G06F40/30 , G06F40/289 , G06N3/0464 , G06N3/0442 , G06N3/0455 , G06N3/0475 , G06N3/048 , G06N3/08
摘要: 一种融合全局信息和局部信息的输变电场景描述自动生成方法,旨在对输变电场景进行图像中文描述生成:利用深度学习和传统的计算机视觉技术相结合,提取图像的局部和全局的特征信息;将每个中文分词的语义信息与融合后的特征信息联系起来,对长短期记忆神经网络进行改进并加入双层注意力机制,建立的序列模型在每个时刻都会根据图像特征信息和语义信息产生一个注意力变量的分布,最后生成图像对应的中文描述。
-
公开(公告)号:CN109993154B
公开(公告)日:2020-02-07
申请号:CN201910319860.4
申请日:2019-04-19
申请人: 山东大学 , 智洋创新科技股份有限公司 , 国网浙江省电力有限公司
摘要: 本发明公开一种变电站单指针式六氟化硫型仪表智能识别方法。本发明旨在对特殊的单指针式六氟化硫型仪表进行读数识别。利用深度学习与传统计算机视觉技术相结合的方式,进行仪表盘定位与指针特征识别。并针对实际应用存在的光线阴暗与仪表盘畸变情形,加入图像增强模块与畸变处理模块以提升识别效果。本发明实现了在复杂背景下对单指针式六氟化硫型仪表的自动检测和识别任务,并具有良好的准确率与稳定性,可满足变电站实际应用需求。
-
-
-
-
-
-
-
-
-