公开(公告)号：CN117749484A

公开(公告)日：2024-03-22

申请号：CN202311761433.4

申请日：2023-12-20

申请人： 浙江工商大学 ,  浙大城市学院 ,  浙江大学

发明人： 韩嵩 ,  周树浩 ,  王志波 ,  任思琪 ,  赵帅 ,  贺诗波 ,  任奎 ,  秦湛

IPC分类号： H04L9/40 ,  H04L9/08 ,  G06N3/098

摘要： 本发明公开了一种面向资源受限设备且具有隐私保护的联邦组模型训练方法及系统，包括：基于设备的资源对参与联邦学习的所有设备进行分组，并根据任务模型对这些分组定制组模型，所述模型为深度学习模型；构建ReDe层，用于重映射用户上传的特征映射，确保服务器端组子模型的训练；利用知识蒸馏，从任务模型的预测中提取额外的训练信息加入到训练损失中来提升组模型的精度；设计补偿损失和漂移校正，减少非独立同分布的数据分布所带来的客户漂移影响；结合内积函数加密，保证参与者训练过程中的隐私安全。本发明让更多资源受限的设备能够参与联邦学习，同时保证了参与者的隐私安全，并且在非独立同分布的数据分布下仍有较高的预测准确性。

公开(公告)号：CN117540788A

公开(公告)日：2024-02-09

申请号：CN202410029633.9

申请日：2024-01-09

申请人： 浙江大学 ,  浙江大学嘉兴研究院

发明人： 巴钟杰 ,  魏耀 ,  陈烨灵 ,  黄鹏 ,  程鹏 ,  王庆龙 ,  秦湛 ,  任奎

IPC分类号： G06N3/0895 ,  G06N3/006 ,  G06N3/0455 ,  G06V10/82

摘要： 本发明公开了一种以控制为中心的自监督学习的双阶段通用智能体训练方法，属于人工智能感知决策技术领域，包括以下步骤：步骤1、设计多模态的决策基础模型，包括编码器和控制解码器；步骤2、收集跨领域跨模态跨具身的多任务数据集；步骤3、使用以控制为中心的自监督损失函数通过自监督学习训练多模态的决策基础模型；步骤4、通过多模态指令对齐的模仿学习来训练多模态的决策基础模型；步骤5、将训练完成的多模态的决策基础模型部署到平台中进行测试使用。本发明提供了一种以控制为中心的自监督学习的双阶段通用智能体训练方法，具有卓越的适应性，能够适应跨领域、跨场景和跨具身的广泛决策任务。

公开(公告)号：CN117593311B

公开(公告)日：2024-06-21

申请号：CN202410081459.2

申请日：2024-01-19

申请人： 浙江大学

发明人： 巴钟杰 ,  郑乔木 ,  程鹏 ,  王庆龙 ,  黄鹏 ,  秦湛 ,  任奎

IPC分类号： G06T7/00 ,  G06N3/0475 ,  G06N3/045 ,  G06N3/094 ,  G06N3/096 ,  G06N3/0455

摘要： 本发明公开了一种基于对抗生成网络的深度合成图像检测增强方法及装置，属于图像检测技术领域，包括以下步骤：收集深度合成图像数据集#imgabs0#；根据数据集训练真伪检测模型；训练对抗生成网络以提高真伪检测模型对深度合成数据的检测性能；根据真伪检测模型构建包含梯度信息在内新数据集#imgabs1#；根据新数据集#imgabs2#对第三方真伪检测模型进行重新训练；深度合成服务方使用对抗生成网络对深度合成图片进行增强，使得第三方真伪检测模型以高检测率检测深度合成图片。本发明采用上述的一种基于对抗生成网络的深度合成图像检测增强方法及装置，可以提高对深度合成图片的检测率。

公开(公告)号：CN117892142A

公开(公告)日：2024-04-16

申请号：CN202410013254.0

申请日：2024-01-04

申请人： 浙江大学杭州国际科创中心

发明人： 李一鸣 ,  陈禹坤 ,  顾金东 ,  秦湛 ,  任奎

IPC分类号： G06F18/22 ,  G06F18/2431 ,  G06F40/216 ,  G06F40/279

摘要： 本发明公开了一种生成内容来源判断方法，该方法基于由生成模型生成的目标类别样本集训练得到目标上下文向量，由随机获得的非目标类别样本集训练得到非目标上下文向量，将待测样本的文本特征分别与目标上下文向量的提示词特征和非目标上下文向量的提示词特征进行比较，如果接近目标上下文向量的提示词特征则证明该待测样本来源与生成模型，本发明利用上述过程首次提出了准确识别来源的方法。本发明还公开了一种生成内容来源判断装置和存储介质。

公开(公告)号：CN117622221A

公开(公告)日：2024-03-01

申请号：CN202311770170.3

申请日：2023-12-20

申请人： 浙江大学杭州国际科创中心

发明人： 卓书果 ,  王志波 ,  秦湛 ,  任奎

IPC分类号： B60W60/00 ,  B60W50/00 ,  G08G1/01 ,  G08G1/042 ,  G08G1/0967

摘要： 本发明公开一种基于路侧单元的车载自动驾驶算法优化方法、系统及装置，方法包括：车辆终端通过车载传感器获取车辆感知信息，得到车辆决策信息，将所述车辆感知信息和车辆决策信息按照预设封装格式发送至路侧终端；基于路侧感知信息得到路侧决策信息，并基于路侧决策信息对所述车辆决策信息进行修正，得到修正决策信息；基于路侧感知信息对所述车辆感知信息进行修正，得到修正感知信息；将修正感知信息及修正决策信息发送至车辆终端；对初始自动驾驶模型进行优化，得到优化自动驾驶模型。通过本发明的方法解决了车载自动驾驶模型不能在线、实时进行算法更新的问题，提高算法迭代速度，保障训练所得模型与真实路况的匹配度。

公开(公告)号：CN117057410A

公开(公告)日：2023-11-14

申请号：CN202311072072.2

申请日：2023-08-24

申请人： 浙江大学

发明人： 徐雄 ,  秦湛

IPC分类号： G06N3/084 ,  G06N3/04 ,  G06V10/40 ,  G06V10/26 ,  G06V10/774

摘要： 本发明公开了一种通过特征解耦的后门触发器逆向方法，该方法基于少量的良性样本，可以对后门的触发器进行精准的逆向，并且获取其目标标签；逆向出来的后门样本后续可用于后门模型的防御；该方法包括：使用少量的良性样本，预训练一个生成模型，使其输出无限接近输入；通过使用良性样本训练和特征层形状一致的掩码使输出的特征分割为良性特征和后门特征；利用掩码训练生成模型使其能够输出后门样本以完成触发器逆向。本发明首次提出了使用良性样本解耦后门模型的特征层并且使用生成模型逆向后门触发器并输出后门样本的方法，能够非常高效地生成后门样本，大大减少了触发器逆向所需要的时间，并且可以适用于多种后门攻击方法。

公开(公告)号：CN116702138A

公开(公告)日：2023-09-05

申请号：CN202310460428.3

申请日：2023-04-25

申请人： 浙江大学杭州国际科创中心

发明人： 杨雨晨 ,  秦湛

IPC分类号： G06F21/56 ,  G06N3/084 ,  G06N3/092

摘要： 本申请涉及一种过滤软件虚假关联的神经网络模型训练方法以及存储介质，所述方法包括：基于所获取的软件样本数据集的接口级特征，构建特征矩阵；以降低特征之间的伪关联度为优化目标对所述软件样本数据集的样本全局权重进行优化；所述伪关联度基于所述特征矩阵确定；基于网络优化器以及权重优化器，对所述神经网络模型进行优化；所述网络优化器以及权重优化器基于优化后的所述样本全局权重生成。采用本方法实现了对软件样本中存在的虚假关联的平衡过滤，解决了由于软件样本数据集计算量庞大导致的虚假关联过滤效果差的问题，提升了软件在完全未知分布下的识别精度。

公开(公告)号：CN115859102A

公开(公告)日：2023-03-28

申请号：CN202211524887.5

申请日：2022-11-30

申请人： 浙江大学嘉兴研究院

发明人： 姚宏伟 ,  任奎 ,  秦湛 ,  王志波 ,  屠春来 ,  牛文杰

IPC分类号： G06F18/214 ,  G06N3/08 ,  G06N3/0464

摘要： 本发明公开了一种基于特征失真指数的模型窃取防御方法及装置，该方法包括：从目标DNN模型中选择每个类别预测置信度最高的K个数据作为锚定样本；计算每个待检测样本和锚定样本之间的特征空间距离以得到特征失真指数；利用所述特征失真指数训练模型窃取攻击检测器；将训练后的模型窃取攻击检测器布置到MLaaS中，以进行模型窃取防御。本申请针对攻击者为了从MLaaS平台的目标DNN模型中获取更多模型信息，通常需要探索大量的输入空间以增加窃取查询的多样性，来训练准确率更高的替代模型，因此攻击者的查询在特征层输出上的分布偏离良性的训练样本特征的这一现象，提出一种衡量被检测样本特征偏差的指标，即特征失真指数FDI，有效检测模型窃取攻击。

公开(公告)号：CN118797488A

公开(公告)日：2024-10-18

申请号：CN202411281741.1

申请日：2024-09-13

申请人： 浙江大学

发明人： 蔡民超 ,  秦湛 ,  姚宏伟 ,  任奎

IPC分类号： G06F18/243 ,  G06F18/2433 ,  G06Q30/0601

摘要： 本发明公开了一种多用户端联合作弊识别方法及装置，该方法包括：获取各订单的服务者和被服务者从登录到履约完成环节的行为信息、订单和支付信息，从其中提取订单特征；基于每个订单的订单特征和作弊可能性构建训练集和测试集，利用训练集对作弊识别模型进行训练，其中作弊识别模型采用LightGBM模型；基于训练后的作弊识别模型，预测测试集中各订单的作弊概率，从而得到作弊概率有效区间；将作弊概率有效区间与预定的规则组进行结合，得到全局最优的组合方式；获取待识别订单，基于全局最优的组合方式，进行待识别订单的作弊识别。通过模型嵌入原规则体系的方式来筛选出全局最优的组合方法，可以较好的提升作弊识别的精准度和召回率。

公开(公告)号：CN118134740B

公开(公告)日：2024-07-30

申请号：CN202410553090.0

申请日：2024-05-07

申请人： 浙江大学

发明人： 邵硕 ,  李一鸣 ,  秦湛 ,  任奎 ,  王宏韬 ,  马杏可 ,  冯振源

IPC分类号： G06T1/00 ,  G06N20/00

摘要： 本发明公开了一种基于非决策域方法的模型水印方法及装置，根据选择的待嵌入的水印#imgabs0#和水印提取密钥并使用可解释性方法定义待训练模型的损失函数，通过损失函数对待训练模型进行优化，得到优化后的模型；随后将待嵌入的水印嵌入到优化后的模型中，得到嵌入水印的模型；利用水印提取密钥通过可解释性方法从嵌入水印的模型中提取水印#imgabs1#；将提取出的水印#imgabs2#与待嵌入的水印#imgabs3#进行比对，确定版权归属。本申请针对传统基于后门的黑盒模型版权认证方法对模型有害、不包含任何信息和易被攻击者伪造的缺点，巧妙地采用非决策域方法，不影响模型的预测结果，能够有效地保护各类人工智能模型的版权，实现无害化、多比特、不易伪造的模型版权认证方案。