-
公开(公告)号:CN118381673B
公开(公告)日:2024-08-16
申请号:CN202410813818.9
申请日:2024-06-24
申请人: 中国电子科技网络信息安全有限公司
IPC分类号: H04L9/40 , H04L43/0823 , H04L43/50
摘要: 本发明公开了一种基于大语言模型的安全测试方法,涉及人工智能和网络安全领域,包括:步骤S1:根据攻击场景和目的生成攻击载荷指令;步骤S2:基于攻击载荷指令,调用若干开源大语言模型直接生成攻击载荷;步骤S3:将生成的攻击载荷放入沙箱环境中进行测试,挑选出能够正确执行的有效攻击载荷,形成有效攻击载荷数据集;步骤S4:对有效攻击载荷数据集中的有效攻击载荷进行攻击测试和评估,筛选出高质量攻击载荷,形成高质量攻击载荷数据集;步骤S5:采用高质量攻击载荷数据集,对大语言模型进行微调,使大语言模型的攻击载荷生成能力得到增强。本发明,能够对网络系统进行测试,提升网络安全防御能力,以应对日益复杂的网络安全威胁。
-
公开(公告)号:CN118381673A
公开(公告)日:2024-07-23
申请号:CN202410813818.9
申请日:2024-06-24
申请人: 中国电子科技网络信息安全有限公司
IPC分类号: H04L9/40 , H04L43/0823 , H04L43/50
摘要: 本发明公开了一种基于大语言模型的安全测试方法,涉及人工智能和网络安全领域,包括:步骤S1:根据攻击场景和目的生成攻击载荷指令;步骤S2:基于攻击载荷指令,调用若干开源大语言模型直接生成攻击载荷;步骤S3:将生成的攻击载荷放入沙箱环境中进行测试,挑选出能够正确执行的有效攻击载荷,形成有效攻击载荷数据集;步骤S4:对有效攻击载荷数据集中的有效攻击载荷进行攻击测试和评估,筛选出高质量攻击载荷,形成高质量攻击载荷数据集;步骤S5:采用高质量攻击载荷数据集,对大语言模型进行微调,使大语言模型的攻击载荷生成能力得到增强。本发明,能够对网络系统进行测试,提升网络安全防御能力,以应对日益复杂的网络安全威胁。
-
公开(公告)号:CN112671716B
公开(公告)日:2022-07-05
申请号:CN202011397024.7
申请日:2020-12-03
申请人: 中国电子科技网络信息安全有限公司
摘要: 本发明公开了基于图谱的漏洞知识挖掘方法及系统,包括步骤:S1,收集网络空间安全领域公开漏洞数据导入数据库,构建漏洞知识图谱;S2,基于构建的知识图谱进行漏洞知识挖掘等;本发明将多源异构的公开漏洞信息进行融合,形成了统一的知识表示形式;通过知识图谱的关联查询以及推导,获得产品厂商到漏洞信息到攻击方法的闭环知识;基于知识图谱的算法挖掘更多漏洞相关知识。
-
公开(公告)号:CN113821792A
公开(公告)日:2021-12-21
申请号:CN202110966502.X
申请日:2021-08-23
申请人: 中国电子科技网络信息安全有限公司
摘要: 本发明公开了一种防止模型参数窃取的方法、装置、设备及存储介质,其中方法包括以下步骤:S1.训练多个不同精度的蜜罐模型库:构建蜜罐模型集合,将训练集划分为多份并按序取出每份训练数据,多轮训练蜜罐模型集合的所有蜜罐模型,每一轮用测试集测试蜜罐模型的准确率,若蜜罐模型的准确率大于设定的阈值,则终止下一轮的训练;多轮迭代训练后,生成不同准确率等级的蜜罐模型;S2.判断请求是否为攻击者发起:根据用户的访问频次以及查询样本的分布情况,计算每次请求的攻击概率,判断请求是否为攻击行为;S3.诱导攻击者访问蜜罐模型:将不同攻击概率的请求诱导到相应精度的蜜罐模型。本发明极大增强了模型的安全性和业务的鲁棒性。
-
公开(公告)号:CN110995652A
公开(公告)日:2020-04-10
申请号:CN201911065689.5
申请日:2019-11-04
申请人: 中国电子科技网络信息安全有限公司
摘要: 本发明公开了一种基于深度迁移学习的大数据平台未知威胁检测方法,包括如下步骤:步骤一、构建源领域样本集;步骤二、采用与步骤一相同的方法采集目标领域的样本数据,然后采用数据增强的方法对样本数据进行扩充,构建目标领域样本集;步骤三、构建基于深度迁移学习的威胁检测模型。与现有技术相比,本发明的积极效果是:1、通过目标领域的数据增强,改善深度学习模型泛化能力不足的问题,进而提升了深度学习模型的预测效果。2、通过针对互联网海量威胁样本的迁移学习,实现了在不降低已知威胁检测率的前提下,有效检测没有出现过的未知威胁。3、通过融合特征的深度神经网络,融合了不同维度的行为特征,提升了模型的识别准确率。
-
公开(公告)号:CN113821792B
公开(公告)日:2024-09-06
申请号:CN202110966502.X
申请日:2021-08-23
申请人: 中国电子科技网络信息安全有限公司
摘要: 本发明公开了一种防止模型参数窃取的方法、装置、设备及存储介质,其中方法包括以下步骤:S1.训练多个不同精度的蜜罐模型库:构建蜜罐模型集合,将训练集划分为多份并按序取出每份训练数据,多轮训练蜜罐模型集合的所有蜜罐模型,每一轮用测试集测试蜜罐模型的准确率,若蜜罐模型的准确率大于设定的阈值,则终止下一轮的训练;多轮迭代训练后,生成不同准确率等级的蜜罐模型;S2.判断请求是否为攻击者发起:根据用户的访问频次以及查询样本的分布情况,计算每次请求的攻击概率,判断请求是否为攻击行为;S3.诱导攻击者访问蜜罐模型:将不同攻击概率的请求诱导到相应精度的蜜罐模型。本发明极大增强了模型的安全性和业务的鲁棒性。
-
公开(公告)号:CN118316736A
公开(公告)日:2024-07-09
申请号:CN202410734656.X
申请日:2024-06-07
申请人: 中国电子科技网络信息安全有限公司
摘要: 本发明公开了一种基于大模型的网络威胁主动防御系统及方法,涉及网络安全领域,其利用了海量的网络安全数据,构建面向主动防御的网络安全领域大模型,提出网络威胁与安全事件的语义原语,建立基于大模型的API调用框架,实现了分布式的增量学习模型与集中式的大模型结合的主动防御架构;本发明,能够提供高效、自动化的网络安全解决方案,帮助组织快速、有效地应对各种网络安全威胁;同时,不仅优化了资源分配,减少了对中心处理单元的依赖,还提高了系统对新型和复杂威胁的响应能力。
-
公开(公告)号:CN116579430A
公开(公告)日:2023-08-11
申请号:CN202310505035.X
申请日:2023-05-06
申请人: 中国电子科技网络信息安全有限公司
IPC分类号: G06N5/04
摘要: 本发明涉及网络攻防博弈技术领域,公开了一种求解网络攻防博弈精炼BNE的方法及系统,该方法,在量化网络攻防博弈过程中,将完全信息动态博弈的子博弈完美纳什均衡与不完全信息静态博弈的贝叶斯纳什均衡结合,并考虑角色互换的情形,将精炼BNE问题的求解转化为收益最大化问题的求解;其中,角色互换指攻击方变为防御方,或,防御方变为攻击方。本发明解决了现有技术存在的难以准确量化描述复杂的网络攻防博弈过程等问题。
-
公开(公告)号:CN115455422A
公开(公告)日:2022-12-09
申请号:CN202210997878.1
申请日:2022-08-19
申请人: 中国电子科技网络信息安全有限公司
摘要: 本发明公开了一种高效的规模化人工智能模型安全性评估方法及装置,其中方法包括:对待测人工智能模型的输入进行预处理,并根据使用的攻击和防御方法生成相应的配置文件;对物理资源进行监控,实时记录资源使用情况;将所有对抗攻击方法打包为Docker镜像形式保存在镜像库,根据为待测人工智能模型生成的配置文件以及资源使用情况启动对应的测试任务,从镜像库中启动相应攻击方法的镜像容器,被启动的镜像容器根据配置文件自动执行攻击算法,攻击结束后将镜像容器返回的结果保存至数据库。可实现不同框架模型之间的统一格式转换和描述,支持多种人工智能框架,可实现对抗样本攻击算法的虚拟化和容器化。
-
公开(公告)号:CN112671716A
公开(公告)日:2021-04-16
申请号:CN202011397024.7
申请日:2020-12-03
申请人: 中国电子科技网络信息安全有限公司
摘要: 本发明公开了基于图谱的漏洞知识挖掘方法及系统,包括步骤:S1,收集网络空间安全领域公开漏洞数据导入数据库,构建漏洞知识图谱;S2,基于构建的知识图谱进行漏洞知识挖掘等;本发明将多源异构的公开漏洞信息进行融合,形成了统一的知识表示形式;通过知识图谱的关联查询以及推导,获得产品厂商到漏洞信息到攻击方法的闭环知识;基于知识图谱的算法挖掘更多漏洞相关知识。
-
-
-
-
-
-
-
-
-