公开(公告)号：CN118586018A

公开(公告)日：2024-09-03

申请号：CN202411064800.X

申请日：2024-08-05

申请人： 武汉人工智能研究院 ,  中国科学院自动化研究所

发明人： 陈阳 ,  黄仁鹤 ,  钟继超 ,  刘鹏 ,  王金桥

IPC分类号： G06F21/60 ,  G06N20/00

摘要： 本发明公开了一种模型加密方法、装置、存储介质及电子设备，其中的模型加密方法在对目标深度学习模型进行部署时，首先利用预设加密算法的加密密钥对所述目标深度学习模型的模型文件进行加密；并在用于部署所述目标深度学习模型的项目代码中设置基于hook的检查程序，然后利用预设工具对设置基于hook的检查程序的项目代码的源代码进行加密。通过本发明的方法可以降低模型加密难度并提高模型的安全性。

公开(公告)号：CN115984652B

公开(公告)日：2023-07-18

申请号：CN202310103748.3

申请日：2023-02-13

申请人： 中国科学院自动化研究所

发明人： 陈阳 ,  余山

IPC分类号： G06V10/774 ,  G06V10/764 ,  G06V10/82

摘要： 本发明涉及人工智能的语言处理技术领域，提供一种符号生成系统的训练方法、装置、电子设备和存储介质，其中方法包括：确定训练样本，并初始化训练样本对应的符号向量；基于训练样本和符号向量对待训练的符号生成系统进行训练，并对符号向量进行更新；在确定训练后的符号生成系统未收敛时，基于训练样本和更新后的符号向量对参数调节后的符号生成系统进行训练；至训练后的符号生成系统收敛，得到训练好的符号生成系统。降低自然语言对人工智能体的影响和约束，提高了人工智能体的高级认知功能。

公开(公告)号：CN115984652A

公开(公告)日：2023-04-18

申请号：CN202310103748.3

申请日：2023-02-13

申请人： 中国科学院自动化研究所

发明人： 陈阳 ,  余山

IPC分类号： G06V10/774 ,  G06V10/764 ,  G06V10/82

摘要： 本发明涉及人工智能的语言处理技术领域，提供一种符号生成系统的训练方法、装置、电子设备和存储介质，其中方法包括：确定训练样本，并初始化训练样本对应的符号向量；基于训练样本和符号向量对待训练的符号生成系统进行训练，并对符号向量进行更新；在确定训练后的符号生成系统未收敛时，基于训练样本和更新后的符号向量对参数调节后的符号生成系统进行训练；至训练后的符号生成系统收敛，得到训练好的符号生成系统。降低自然语言对人工智能体的影响和约束，提高了人工智能体的高级认知功能。

公开(公告)号：CN109784287A

公开(公告)日：2019-05-21

申请号：CN201910058284.2

申请日：2019-01-22

申请人： 中国科学院自动化研究所

发明人： 曾冠雄 ,  陈阳 ,  余山

IPC分类号： G06K9/00 ,  G06K9/62

摘要： 本发明属于模式识别及类脑机器学习领域，具体涉及了一种基于情景信号类前额叶网络的信息处理方法、系统、装置，旨在解决复杂情况下即复杂多任务情况下系统结构复杂、灵活性差、训练样本需求量大的问题。本发明方法包括：选择对应特征向量提取器进行特征提取；将信息特征向量与情景信号集中每一个情景信号进行维度匹配；维度匹配后的情景特征向量输入特征向量分类器，获得分类信息。本发明方法利用类似于前额叶的模块，实现面向情境信息的多任务学习，在上下文情景信息不能事先确定的情况下，可以逐步学习依赖于上下文情境信息的映射，处理后的数据可应用于多任务学习或更高要求的连续多任务学习。

公开(公告)号：CN114882337A

公开(公告)日：2022-08-09

申请号：CN202210560371.X

申请日：2022-05-23

申请人： 之江实验室 ,  中国科学院自动化研究所

发明人： 李焜炽 ,  万军 ,  陈阳 ,  余山

IPC分类号： G06V10/82 ,  G06V10/764 ,  G06V10/40 ,  G06N3/04 ,  G06N3/08

摘要： 本发明属于图像识别的动态类增量学习领域，公开了一种基于校正新旧任务类别混淆的类增量学习方法，包括了一个级联的知识蒸馏框架和一种特征回放的方法。级联的知识蒸馏框架首先校正旧模型的特征表示，生成一个校正后的教师网络，然后在学习新任务的同时将旧任务的知识从校正后的教师网络迁移到新模型。特征回放的方法主要是为缓解新旧任务类别数据的不平衡问题，通过保存旧任务类别更多的特征向量用于训练特征校正网络。本发明旨在校正新旧任务类别之间的混淆，缓解旧模型所代表的知识与新任务知识之间的冲突，以便在学习新任务的同时提升知识迁移的效率。

公开(公告)号：CN113919497A

公开(公告)日：2022-01-11

申请号：CN202111242998.2

申请日：2021-10-25

申请人： 中国科学院自动化研究所 ,  中国航天科工集团第二研究院

发明人： 郭良轩 ,  陈阳 ,  余山 ,  曲徽 ,  黄旭辉 ,  张金鹏

IPC分类号： G06N3/08 ,  G06N3/06 ,  G06N3/04 ,  G06V10/774 ,  G06V10/764

摘要： 本发明属于模式识别、机器学习、多任务学习、对抗攻击技术领域，具体涉及一种针对连续学习能力系统的基于特征操纵的攻击和防御方法，旨在解决现有基于连续学习的智能系统安全性、鲁棒性较差的问题。本发明方法包括：获取图像干净样本；提取干净样本的特征；获取目标样本并提取特征，作为目标锚点特征；基于干净样本特征，结合目标锚点特征，通过攻击样本生成算法生成对抗样本；通过连续学习算法对图像分类模型进行训练，并统计在C类任务分类学习时干净样本对应的分类正确率；按照1：n的比例增入第一矩阵作为训练样本，重新训练；基于训练好的图像分类模型对图像进行分类。本发明提升了现有基于连续学习的智能系统的安全性、鲁棒性。

公开(公告)号：CN109934343A

公开(公告)日：2019-06-25

申请号：CN201910138155.4

申请日：2019-02-25

申请人： 中国科学院自动化研究所

发明人： 陈阳 ,  曾冠雄 ,  余山

IPC分类号： G06N3/08

摘要： 本发明属于机器学习及人工智能领域，具体涉及了一种基于正交投影矩阵的人工神经网络优化方法、系统、装置，旨在解决人工神经网络在连续学习时发生灾难性遗忘的问题。本发明方法包括：初始化人工神经网络并计算网络各层正交投影矩阵集；采用正交投影矩阵集更新人工神经网络权重矩阵并对当前任务的输入数据处理；采用递归的算法计算新的投影矩阵集并用于下一任务人工神经网络的权重矩阵更新；重复执行投影矩阵的递归运算以及权重矩阵的更新直至任务队列中所有任务执行完毕。本发明可以应用于不同任务空间，还可以用于局部网络甚至特定网络的特定权重上，计算简单、效果显著，避免了传统的人工神经网络“灾难性”遗忘的问题。