-
公开(公告)号:CN117787403A
公开(公告)日:2024-03-29
申请号:CN202311494302.4
申请日:2023-11-09
Applicant: 广州大学
IPC: G06N5/025 , G06N5/02 , G06N3/0455 , G06N3/0442 , G06F16/36 , G06F40/211 , G06F40/284 , G06F40/30 , H04L9/40
Abstract: 本发明提供了一种基于深度学习的网络威胁情报关系三元组联合提取方法,基于深度神经网络构建一种网络威胁情报关系三元组联合提取模型,采用如下技术方案:(a)使用联合提取的方法来同时提取实体和关系,解决了实体和关系提取任务之间交互缺失的问题;(b)使用基于跨度的方法,解决了重叠实体的问题;(c)使用BERT大规模预训练模型对文本进行向量表示。由于预训练模型包含了从大规模语料库中学习到的上下文信息,可以极大丰富模型对威胁情报文本的语义表达;(d)融合多种模态信息,如时序、依赖关系、跨度、标签等,增强多模态信息之间的交互,缓解了文本跨度长、实体语义相似度高、实体之间相关性弱的问题。
-
公开(公告)号:CN119520029A
公开(公告)日:2025-02-25
申请号:CN202411481491.6
申请日:2024-10-22
Applicant: 广州大学
IPC: H04L9/40 , G06F40/295 , G06F40/30 , G06N20/00
Abstract: 本发明公开了基于提示增强和联合学习的网络威胁情报三元组抽取模型的训练方法及三元组抽取方法,包括:S1:构建问题模板;S2:构建解码器;S3:建立由标签答案词向关系标签的第一映射、由关系标签向答案语义词的第二映射;预测实体对的关系为某答案词的概率;S4:输入隐藏层表示和可学习答案语义词的嵌入向量至关系预测层,得到预测头;S5:选择概率最高的答案词根据第一映射映射至关系标签得到预测关系;S6:计算总损失;S7:进行预训练;S8:使用训练数据集训练模型得到三元组联合提取模型。通过输入网络威胁情报数据至所述模型,即可得到关系三元组。本发明采用联合提取框架,有效解决了实体和关系任务间缺乏交互的问题。
-
公开(公告)号:CN119003785A
公开(公告)日:2024-11-22
申请号:CN202411019755.6
申请日:2024-07-26
Applicant: 广州大学
IPC: G06F16/36 , G06F16/35 , G06F40/30 , G06F40/16 , G06F40/295 , G06N3/0455 , G06F16/953
Abstract: 本发明提出一种基于注意力上下文映射和关系匹配的网络威胁情报关系抽取方法,该方法基于深度神经网络,采用如下技术方案:(a)使用大规模通用文本数据预训练过的BERT模型对输入文本进行向量编码,得到初步的文本向量表示。通过大规模通用文本数据预训练过的BERT模型,已经获取到了文本的一些潜在语义信息,所以将其对威胁情报文本进行编码得到的向量表示已经包含了丰富的通用先验知识和潜在语义。(b)通过基于注意力的上下文映射方法,缓解了实体语义抽象和实体特征易混淆的问题。(c)通过关系匹配机制来缓解实体之间相关性弱的问题。
-
公开(公告)号:CN119539047A
公开(公告)日:2025-02-28
申请号:CN202411482849.7
申请日:2024-10-22
Applicant: 广州大学
IPC: G06N5/022 , G06N3/0442 , G06N3/08
Abstract: 本发明公开了一种网络安全关系抽取方法,其中方法步骤如下:S1:获得安全事件数据集,对安全事件数据集中的数据进行清洗、预处理以及切分标记,最后将完成标记的数据集分为训练数据集和测试数据集S2:构建关系抽取预测模型S3:将训练数据集输入关系抽取预测模型,获得安全事件预测结果,根据预测结果对所述关系预抽取模型的参数进行调整S4:将测试数据集数据输入所述关系预抽取模型,得到模型的性能参数,则重复步骤S3至性能参数高于预设值,后将该模型保存为安全关系抽取模型。
-
-
-