-
公开(公告)号:CN118095410A
公开(公告)日:2024-05-28
申请号:CN202410062281.7
申请日:2024-01-16
Applicant: 北京邮电大学 , 联通时科(北京)信息技术有限公司
IPC: G06N3/098 , G06N3/0455
Abstract: 本发明提供一种神经网络架构搜索的联邦学习参数高效微调方法及装置。该方法包括:基于联邦学习架构中客户端的预训练语言模型进行神经网络架构搜索中,对预训练语言模型的结构参数和参数高效微调模块进行迭代优化,获得第一结构参数和第一参数高效微调模块,并对其进行迭代聚合处理,获得全局结构参数和全局参数高效微调模块;基于全局参数高效微调模块和全局结构参数对客户端的预训练语言模型的第一结构参数和第一参数高效微调模块进行参数更新处理,获得参数更新结果,并基于参数更新结果对预训练语言模型进行微调,获得微调结果。本发明提供的方法,能够有效提高联邦学习参数高效微调效率和准确率,从而降低了通信成本。
-
公开(公告)号:CN118014035A
公开(公告)日:2024-05-10
申请号:CN202311814341.8
申请日:2023-12-26
Applicant: 北京邮电大学 , 联通时科(北京)信息技术有限公司
IPC: G06N3/08 , G06N3/0464 , G06N3/048 , G06N3/0499 , G06N3/0455
Abstract: 本发明提供一种基于自动化适配器的参数高效微调方法及装置,涉及人工智能技术领域,方法包括:获取预训练模型;在预训练模型的候选位置并行插入在先创建的适配器,得到待训练模型;其中,候选位置包括预训练模型的前馈模块、多头注意力模块和整个网络层;利用预设消融机制和神经网络架构搜索,对待训练模型进行训练,以利用适配器对预训练模型进行参数高效微调。本发明通过在预训练模型的候选位置并行插入适配器,并利用预设消融机制和神经网络架构搜索,对插入适配器的预训练模型进行训练,以提高最终适配器对预训练模型的微调性能,在确保少量可调参数的情况下提供强大的性能,进一步减少了微调计算开销,提高了参数高效微调精度。
-
公开(公告)号:CN117950861A
公开(公告)日:2024-04-30
申请号:CN202410049550.6
申请日:2024-01-12
Applicant: 北京邮电大学 , 联通时科(北京)信息技术有限公司
Abstract: 本发明提供一种联邦机器学习系统资源分配处理方法及装置。该方法包括:确定联邦机器学习系统中智能终端在当前联邦学习回合的总时延得分和本地模型参数的质量,基于与智能终端对应的声誉评估模型进行分析,获得智能终端在当前联邦学习回合的当前声誉值;获得预设的智能终端集合中每个智能终端的资源属性信息,将资源属性信息输入至预设的智能终端选择和延迟准入模型,获得选择调用的当前联邦学习回合中的目标智能终端和资源分配策略;基于资源分配策略对目标智能终端分配相应的目标新鲜度的联邦学习的全局模型参数和相应的资源。本发明提供的方法,能够有效提高联邦机器学习系统资源分配效率和准确率,使每个回合选择的智能终端保持稳定。
-
公开(公告)号:CN117544390A
公开(公告)日:2024-02-09
申请号:CN202311651206.6
申请日:2023-12-04
Applicant: 中国联合网络通信集团有限公司 , 联通时科(北京)信息技术有限公司
IPC: H04L9/40
Abstract: 本申请提供一种用户认证方法、装置、设备及存储介质,涉及互联网安全技术领域。该方法通过获取包括登陆账号、登陆密码和登陆时间的用户登陆信息,在身份信息数据库中检索匹配,并在检测到匹配成功后,将登陆时间转化为时间戳数据,作为第一间定序列,并通过获取登陆页面的标签信息生成第二间定序列,根据登陆密码中的不同类型的数据信息生成对应的第一参照序列和第二参照序列后,将第一间定序列和第一间定序列分别与各对应的第一参照序列和第二参照序列进行一致性校验,并基于获取的各对应校验结果生成session数据文件,从而降低了session数据文件被伪造的可能性,并加强了用户登录和session数据文件的联系,提高了企业网站中的内部信息安全性。
-
公开(公告)号:CN117687785A
公开(公告)日:2024-03-12
申请号:CN202311707832.2
申请日:2023-12-12
Applicant: 中国联合网络通信集团有限公司 , 联通时科(北京)信息技术有限公司
Abstract: 本申请提供一种算力渲染资源的调度方法、装置、设备及存储介质。该方法包括:获取待显示于设备上的整幅画面和整幅画面中的所有画面区域,整幅画面划分为至少一个画面区域;基于训练得到的注意力模型,确定每个画面区域的权重值,注意力模型为基于用户对设备所显示的整幅图像中的感兴趣区域,训练得到的;根据每个画面区域的权重值,确定每个画面区域的优先级;根据每个画面区域的优先级,调用设备的算力渲染资源依次对优先级高的画面区域进行渲染显示。本申请的方法在显示该画面时,优先调用算力渲染资源对优先级高的区域进行渲染显示,保证在设备的配置和硬件条件有限的情况下,能够尽可能的为用户所关注的画面区域提供好的显示效果。
-
-
-
-