公开(公告)号：CN117193841A

公开(公告)日：2023-12-08

申请号：CN202311171922.4

申请日：2023-09-12

申请人： 河钢数字技术股份有限公司 ,  河钢雄安数字科技有限公司 ,  西安电子科技大学

发明人： 葛春红 ,  魏晓飞 ,  王凯军 ,  苗海涛 ,  唐文明 ,  鲍亮 ,  魏焓宇 ,  刘立环 ,  孙亚亚

IPC分类号： G06F8/71 ,  G06F9/445 ,  G06F18/214

摘要： 本申请适用于参数调优技术领域，提供了一种软件系统的配置参数调优方法及装置，包括：获取软件系统的调优目标和成本模型；成本模型包括对调优目标的成本约束；基于调优目标确定具有配置结构感知的调优模型；针对调优目标，对软件系统的配置参数进行预采样，并对预采样的配置参数所产生的性能进行测量，获得公开离线数据；基于成本模型和公开离线数据，对调优模型进行离线训练，获得调优目标的收敛效果在预设阈值范围内的调优模型的超参数组合；基于超参数组合，将调优模型与软件系统进行在线实时交互，得到软件系统的目标配置参数。本申请能够在未知的内部约束的情况下，进行配置调优。

公开(公告)号：CN118586440A

公开(公告)日：2024-09-03

申请号：CN202410649049.3

申请日：2024-05-23

申请人： 河钢数字技术股份有限公司

发明人： 魏晓飞 ,  刘培培 ,  王凯军 ,  孙亚亚 ,  张丛灿 ,  刘立环 ,  魏焓宇 ,  丁泽浩

IPC分类号： G06N3/045 ,  G06N3/082 ,  G06N3/0464 ,  G06N3/09 ,  G06V10/82 ,  G06V10/771

摘要： 本发明公开了基于梯度的Transformer模块化分解方法，涉及图像处理和计算机视觉技术领域，该基于梯度的Transformer模块化分解方法，包括以下步骤：步骤一：目标点识别，如算法1描述了基于梯度技术识别单个注意力头中的非目标节点；步骤二；存储不属于目标类模块的节点位置；步骤三：添加非目标类；步骤四：目标类模块化，将事先训练好的Transformer模型分解为一组更小且可重用的模块，通过这一独特的分解过程，生成的模块能够被灵活地重用，以构建全新的、甚至更加精准的Transformer模型，而无需从头开始进行昂贵的训练。这种模块化分解方法不仅提高了模型的灵活性和可重用性，同时降低了模型开发的成本和时间，为深度学习模型的定制和优化提供了一种高效而创新的途径。