-
公开(公告)号:CN117391147A
公开(公告)日:2024-01-12
申请号:CN202311455415.3
申请日:2023-11-03
申请人: 河北工业大学 , 电子科技大学(深圳)高等研究院 , 大连理工大学
IPC分类号: G06N3/0464 , G06N3/08
摘要: 本发明提出了一种基于异步梯度下降分布式并行策略的小样本生成扩散模型多目标神经架构搜索方法。本发明将扩散模型的多目标神经架构搜索与分布式并行演化计算相融合,设计了强化差异特征的数据增广方法,快速增加少数类样本数量,改善训练数据集不平衡问题;结合注意力机制、交叉注意力机制、位置编码,实现扩散模型特征提取能力、泛化能力的增强;提出了特征增强小样本生成扩散模型的多目标优化方法,优化扩散模型生成样本质量、多样性和计算复杂度;提出了异步梯度下降分布式并行策略,提升网络的训练效率。
-
公开(公告)号:CN116562343A
公开(公告)日:2023-08-08
申请号:CN202211569928.2
申请日:2022-12-08
申请人: 河北工业大学 , 大连理工大学 , 电子科技大学(深圳)高等研究院
IPC分类号: G06N3/0475 , G06N3/092
摘要: 本发明公开了一种考虑统计全局信息的多目标演化生成对抗网络,在多目标演化算法与生成对抗网络结合的基础上,构建浅层的神经网络统计非局部性的信息,将自注意力机制模块从通道域方面进行修改,把修改之后的自注意力机制模块加入到生成器的第三层和第四层卷积网络之间;对鉴别器进行进一步的约束,将谱归一化加入到鉴别器的每一层神经网络中代替传统的批归一化;将余弦退火算法替代传统的学习率更新策略,在每次对生成器进行更新后都要根据生成样本的质量和多样性两个目标在生成器的种群中来选出最优解,以进行下一步的迭代更新,需要修改原有的拥挤度比较算子,使其同时考虑不同维度的影响,得到最优解。
-
公开(公告)号:CN116258165A
公开(公告)日:2023-06-13
申请号:CN202310110687.3
申请日:2023-02-14
申请人: 河北工业大学 , 大连理工大学 , 南京天洑软件有限公司 , 电子科技大学(深圳)高等研究院
IPC分类号: G06N3/045 , G06N3/0464 , G06N3/086 , G06N3/0985
摘要: 本发明属于多目标演化神经架构搜索领域,提出一种融合卷积及自注意力的多目标演化神经架构搜索方法。通过构建改进多目标演化算法,提高神经架构搜索效率,在搜索过程中更快搜索出神经架构个体并保存,兼顾收敛性和多样性;通过构建融合卷积和注意力操作的搜索空间,提高在图像处理任务时的全局和局部信息的处理能力,提高搜索空间的可塑性和个体在不同任务集上的泛化性能;将搜索空间的卷积核大小、层数等决策变量进行编码,作为改进多目标演化算法的种群个体,通过改进多目标演化算法的运行搜索出表现最优的个体,并将其解码为最优的网络架构。本发明有效提高搜索效率并获得性能最好的神经架构。
-
公开(公告)号:CN117372747A
公开(公告)日:2024-01-09
申请号:CN202311237840.5
申请日:2023-09-25
申请人: 河北工业大学 , 大连理工大学 , 电子科技大学(深圳)高等研究院
IPC分类号: G06V10/764 , G06N3/048 , G06N3/08
摘要: 本发明属于计算机视觉领域,公开提供了一种针对图像分类神经网络分类器决策空间的优化方法。针对图像分类神经网络分类器决策空间的优化方法包括:分类器内设置正弦激活函数ASIN,分类器权重矩阵等角投影;分类器内设置正弦激活函数ASIN对输入分类器的特征进行中心对称的非线性激活,分类器权重矩阵等角投影使得分类器权重矩阵的列向量两两之间夹角相等,且最大化;分类器内设置正弦激活函数ASIN可以让决策空间的特征分布关于原点中心对称分布,分类器权重矩阵等角投影使得类间距离最大化,提升网络分类性能,同时促进权重矩阵等角紧框架形成,加快网络收敛速度。
-
公开(公告)号:CN117332822A
公开(公告)日:2024-01-02
申请号:CN202311281668.3
申请日:2023-10-07
申请人: 河北工业大学 , 电子科技大学(深圳)高等研究院 , 大连理工大学
IPC分类号: G06N3/0475 , G06N3/086 , G06N3/094 , G06N3/006
摘要: 本发明属于生成对抗网络自动化设计技术领域,公开了一种面向生成对抗网络的多目标自适应演化神经架构搜索方法。依据神经架构搜索对演化过程进行分阶段处理,将演化过程分为探索、发展、收敛三个阶段,并设计了一个控制器,使得神经架构搜索能够依据演化过程进行调整,有效提升了神经架构搜索性能。通过新设计的概率函数,在不同的阶段对演化过程的交叉概率和突变概率进行控制,并在演化后期时加速收敛,并做了大量的消融实验。通过本发明所设计的基于双因子协同变异机制的演化过程对神经架构搜索过程进行动态化的调整与控制。
-
公开(公告)号:CN117527327A
公开(公告)日:2024-02-06
申请号:CN202311435934.3
申请日:2023-11-01
申请人: 河北工业大学 , 电子科技大学(深圳)高等研究院 , 大连理工大学
IPC分类号: H04L9/40 , H04L9/00 , G06N3/0464 , G06N3/086 , G06F18/213 , G06F18/23213 , G06F18/2415 , G06N3/048
摘要: 本发明属于物联网入侵检测技术领域,提出了一种可信的多目标神经演化入侵检测框架,尽可能保证入侵检测警报数据不被篡改。针对入侵检测警报数据的信息安全保护,通过节点信用评级,设计奖励和惩罚机制来加强节点上传可信警报数据;在入侵检测模型方面,针对基于深度学习的入侵检测模型的自动化设计问题,通过多目标演化算法来演化一些出参数量小并且准确度尽可能高的卷积神经网络结构;并设计新的卷积块结构用于搜索空间,以进一步增强模型特征提取能力;经过神经网络架构搜索会产生多个帕累托解,最终通过提出自适应权重的决策方法决策出最终解。
-
公开(公告)号:CN117273168A
公开(公告)日:2023-12-22
申请号:CN202311238148.4
申请日:2023-09-25
申请人: 河北工业大学 , 之江实验室 , 电子科技大学(深圳)高等研究院 , 大连理工大学
IPC分类号: G06N20/00 , G06N3/0455 , G06N3/08 , G06F21/62
摘要: 本发明提供了一种联邦大模型自适应学习系统。在多目标优化与增量学习结合的基础上,构建多个优化指标,设计自适应的小模型增量学习;针对联邦学习下的数据隐私保护,提出小模型梯度放缩方法,使梯度信息得到充分利用;通过揭示模型泛化能力与采样数据的关联性,提出泛化能力评估函数;针对工业设备运行时面对的性能退化、故障等真实问题,结合泛化能力评估函数,设计多个优化目标,通过多目标演化学习自适应地更新与修复模型,提高大模型在真实工业场景下的可用性。最终实现大、小模型的自适应精准更新,提升模型泛化能力。
-
公开(公告)号:CN114189636A
公开(公告)日:2022-03-15
申请号:CN202111497481.8
申请日:2021-12-09
申请人: 大连理工大学人工智能大连研究院 , 大连理工大学
摘要: 一种多模式数字像素结构与逻辑控制方法,多模式数字像素结构集成了包括高增益运放、逻辑开关管、积分电容和多用电容的多模式CTIA像素单元和包括比较器、逻辑模块和静态存储器的兼容多模式的像素级模数转换结构。模拟像素通过多用电容的连接方式,实现多模式CTIA像素功能,模拟输出与比较器同相端连接,与斜波信号VRAMP进行比较,输出COMP_OUT经过逻辑结构控制静态存储器的写使能端。利用脉冲宽度调制方式,将全局计数器的数据控制写入静态存储器。通过选择器与逻辑信号H_CTRL和L_CTRL,实现可兼容多模式的像素级模数转换结构。本发明实现数字像素的多模式工作与转换,并保证转换数据的完整性。
-
公开(公告)号:CN114189636B
公开(公告)日:2024-03-05
申请号:CN202111497481.8
申请日:2021-12-09
申请人: 大连理工大学人工智能大连研究院 , 大连理工大学
IPC分类号: H04N25/20 , H04N25/70 , H04N25/50 , H04N25/616 , H04N25/78
摘要: 一种多模式数字像素结构与逻辑控制方法,多模式数字像素结构集成了包括高增益运放、逻辑开关管、积分电容和多用电容的多模式CTIA像素单元和包括比较器、逻辑模块和静态存储器的兼容多模式的像素级模数转换结构。模拟像素通过多用电容的连接方式,实现多模式CTIA像素功能,模拟输出与比较器同相端连接,与斜波信号VRAMP进行比较,输出COMP_OUT经过逻辑结构控制静态存储器的写使能端。利用脉冲宽度调制方式,将全局计数器的数据控制写入静态存储器。通过选择器与逻辑信号H_CTRL和L_CTRL,实现可兼容多模式的像素级模数转换结构。本发明实现数字像素的多模式工作与转换,并保证转换数据的完整性。
-
公开(公告)号:CN112257810B
公开(公告)日:2023-11-28
申请号:CN202011213028.5
申请日:2020-11-03
申请人: 大连理工大学人工智能大连研究院 , 大连理工大学
IPC分类号: G06V10/764 , G06V10/774 , G06V10/44 , G06V10/82 , G06V10/25 , G06V20/05 , G06N3/0464
摘要: 本发明属于水下目标检测领域,提供了一种基于改进FasterR‑CNN的海底生物目标检测方法,通过样本复制和随机擦除实现数据增广,进一步通过加强特征提取网络backbone改进Faster R‑CNN对包含海底小目标图像的特征提取能力,从而提高训练样本不足情况下,海底生物目标的识别准确率。通过本发明设计的基于改进Faster R‑CNN的海底生物目标检测方法,可以解决海底生物目标检测中训练数据不足和对小目标检测效果不佳的问题,大大提高了识别准确率。本发明,有助于目标检测算法在水下机器人上的应用,进一步为水下机器人海生物自主捕捞技术提供技术支撑。
-
-
-
-
-
-
-
-
-