-
公开(公告)号:CN118035722A
公开(公告)日:2024-05-14
申请号:CN202410177495.9
申请日:2024-02-08
IPC分类号: G06F18/213 , G06F18/10 , G06N3/0895 , G06F123/02
摘要: 本发明属于船舷风速预测技术领域,提供了一种基于自监督对比学习的船舷风速校正预测方法及系统,包括:获取海洋观测数据;提取所获取的海洋观测数据的数据特征;对所提取的数据特征进行多粒度对比学习,得到海洋观测数据的不同粒度时间序列数据的特征向量;根据所得到的时间序列数据特征向量,完成船舷风速的校正预测。本发明利用超声波风速数据来校正左右船舷风速,通过构建正负样本对,自动从海洋观测时间序列中提取不同粒度的表征向量,而无需手动调整参数或依赖领域专业知识;具备自动学习数据内在结构和模式的能力,提高对左右船舷风速数据误差的感知,增强校正能力。
-
公开(公告)号:CN116681960A
公开(公告)日:2023-09-01
申请号:CN202310551874.5
申请日:2023-05-15
IPC分类号: G06V10/77 , G06V10/80 , G06V10/82 , G06N3/0464 , G06N3/08
摘要: 本发明提出一种基于K8s的中尺度涡旋智能识别方法及系统,涉及涡旋识别领域。包括将待识别图像输入到基于深度学习的中尺度涡旋识别模型中,对待识别图像进行特征提取,基于CBAM混合注意力机制进行加权;将输出特征图输入至ASPP中,设置膨胀卷积的膨胀率,同时将ASPP中池化分支替换为深度可分离卷积,得到编码器输出的特征图;将编码器输出的特征图输入解码器中,基于SKNet注意力机制计算不同尺寸感受野的权重,实现中尺度涡旋的智能识别。本发明能够准确的识别出海表面高度图像中的气旋式涡旋和反气旋式涡旋,而且还通过引入注意力机制技术使模型更加精确的分割出涡旋的边界信息,有效的解决了之前方法中的中尺度涡旋识别效果泛化性差的问题。
-
-
公开(公告)号:CN118779117A
公开(公告)日:2024-10-15
申请号:CN202411258880.2
申请日:2024-09-10
IPC分类号: G06F9/50 , G06F9/38 , G06F18/214 , G06N3/126
摘要: 本发明属于大模型训练技术领域,具体涉及一种基于双重优化的大模型广域异构分布式训练方法与系统;基于双重优化的大模型广域异构分布式训练方法包括:获取基座模型的配置信息,进行异构数据中心的拆分,将异构数据中心转换成最多能完成一个stage任务的数据中心;采用蚁群算法对拆分后数据中心进行初始化组合的优化,得到基座模型初步并行组方案;基于遗传算法的优化得到基座模型并行组方案,生成模型训练架构,以完成基于双重优化的大模型广域异构分布式训练。针对真实异构环境下的基座模型训练所面临的架构设计、通信成本计算和难以找到最佳并行组策略的难题,减少了模型训练时间的同时,有效降低了大模型训练的成本和门槛。
-
公开(公告)号:CN118519766A
公开(公告)日:2024-08-20
申请号:CN202410597016.9
申请日:2024-05-14
IPC分类号: G06F9/50
摘要: 本公开提出一种面向国产异构算力集群的作业调度方法及系统,方法包括:在一个调度周期中,根据待调度作业的资源量、算力类型请求,及节点的算力类型标签,从异构算力集群中筛选出候选节点;考虑异构算力资源的性能差异,基于加权轮询计算候选节点权重,将权重最高的候选节点作为第一目标节点;根据异构算力集群及候选节点中各类资源占比对候选节点的资源使用空间进行评分,将评分最高的候选节点作为第二目标节点;随机选择最终目标节点,将待调度作业调度到最终目标节点。本公开通过在节点预选阶段添加初次筛选提升节点预选效率,在节点优选阶段,考虑异构算力资源性能差异和集群的整体性,克服了负载不均衡、异构算力不兼容的问题。
-
公开(公告)号:CN118211268A
公开(公告)日:2024-06-18
申请号:CN202410428512.1
申请日:2024-04-10
IPC分类号: G06F21/62 , G06V10/30 , G06V10/774 , G06V10/764 , G06V10/82 , G06N3/0464 , G06N3/098
摘要: 本公开提供了基于扩散模型的异构联邦学习隐私保护方法及系统,涉及联邦学习隐私保护技术领域,包括建立服务器端与客户端的通信通道;获取客户端类别分布不均匀的数据上传至服务端,将所述类别分布不均匀的数据作为去噪扩散模型的输入,在服务器端生成符合数据分布的图像;利用生成的图像数据进行异构联邦学习的训练,服务器端初始化全局模型参数,并分发给随机选择的客户端,利用知识蒸馏方法,将全局模型看作教师网络,把上一轮的本地模型看作学生网络,进行本地模型的训练和参数上传,服务端利用各个客户端的上传的本地模型参数进行全局模型聚合,完成知识迁移。
-
公开(公告)号:CN117151173A
公开(公告)日:2023-12-01
申请号:CN202311119652.2
申请日:2023-08-31
IPC分类号: G06N3/0495 , G06N3/082 , G06N3/084 , G06N3/045 , G06N3/096 , G06N3/0985 , G06F18/214 , G06F18/21 , G06F40/289 , G06F16/35
摘要: 本发明公开了一种基于元学习的模型压缩方法,包括:获取情感分类数据集并进行数据预处理;将预处理后的数据样本输入至模型压缩模块中,对预训练语言模型压缩,在推理阶段实现情感分类结果的输出,所述模型压缩模块包含微调、剪枝、元学习蒸馏等操作。所述微调阶段,基于数据集训练预训练语言模型得到第一教师模型;剪枝阶段,利用缩放系数剪枝第一教师模型,得到第一学生模型;基于数据集和蒸馏训练方法训练得到第二学生模型,并将第二模型部署于终端,实现情感分类预测。本发明采用模型压缩方法应用于大模型情感分类预测,保证情感分类结果精度的情况下,降低了模型参数量,更利于部署应用。
-
公开(公告)号:CN116737521A
公开(公告)日:2023-09-12
申请号:CN202310744383.2
申请日:2023-06-21
IPC分类号: G06F11/34 , G06F11/30 , G06N3/0464 , G06N3/0455 , G06N3/0895
摘要: 本发明属于HPC作业预测领域,提供了一种基于自监督对比学习的HPC作业功耗预测方法及系统,本发明采用了基于表示学习和自监督学习的方法进行训练,采用向量对比的方式进行学习,将生成的向量表示在时间戳粒度以及实例粒度进行对比;在时间粒度上进行对比,学习数据随时间的动态变化趋势;在实例粒度上进行对比,学习不同类别的数据之间的差异和相似特征;基于得到的动态变化趋势、差异和相似特征进行作业功耗预测。考虑了数据的连续性,可以在长期预测任务中取得较好的性能,计算复杂度也明显低于RNN和GRU模型。
-
公开(公告)号:CN118312792A
公开(公告)日:2024-07-09
申请号:CN202410463903.7
申请日:2024-04-17
IPC分类号: G06F18/22 , G06F18/30 , G06N3/045 , G06N3/0455 , G06N3/0499 , G06N3/0895 , G06N3/096
摘要: 本发明涉及海洋观测技术领域,提供了一种海洋浮标数据质量人工智能检测方法及系统,包括:获取若干连续深度的海洋浮标数据,并添加静态协变量,得到输入序列数据;基于所述输入序列数据,通过序列预测模型,得到其余深度的海洋浮标数据的预测值;对于其余深度的海洋浮标数据,将预测值和实测值的差值与预测阈值进行比较,判断实测值是否为异常数据。解决了海洋浮标数据领域标记数据不足问题。
-
公开(公告)号:CN117910329A
公开(公告)日:2024-04-19
申请号:CN202410309464.4
申请日:2024-03-19
IPC分类号: G06F30/25 , G06F30/27 , G06N3/006 , G06N3/0442
摘要: 本发明涉及计算机技术领域,提供了一种基于改进粒子群优化算法的海洋时序数据预测方法及系统。该方法包括,获取海洋传感器样本数据,采用改进的粒子群优化算法对预测模型的超参数进行优化,得到最优超参数,以此得到已训练的预测模型;获取待预测的海洋传感器数据,采用已训练的预测模型,得到预测结果;其中,所述改进的粒子群优化算法包括:采用非线性动态权重替换固定惯性权重,并在非线性动态权重中引入自适应权重因子。本发明通过将固定权重改为非线性动态权重,早期设置较大的权重,促进全局搜索,后期利用较小的权重提升局部搜索能力。这种动态调整有助于在全局探索和局部精细调整之间找到更好的平衡。
-
-
-
-
-
-
-
-
-