基于对偶对比学习的零样本关系抽取方法和系统

    公开(公告)号:CN114548325B

    公开(公告)日:2022-08-02

    申请号:CN202210441073.9

    申请日:2022-04-26

    Applicant: 北京大学

    Abstract: 本发明涉及软件检测技术领域,提出一种基于对偶对比学习的零样本关系抽取方法和系统,其中方法包括:获取样本数据集,将样本数据集分为训练集、验证集和测试集;对训练集进行预处理;对预处理后的样本进行编码,结合位置编码,得到各样本的向量表示,对训练集中样本的标签进行编码,得到各标签的向量表示;结合样本层的对比学习和标签层的对比学习计算模型损失,计算模型损失后构建关系抽取模型;将验证集输入关系抽取模型,得到最优关系抽取模型;将测试集输入优化后的关系抽取模型,得到语义匹配的结果作为零样本关系抽取结果。根据本发明的方案,保证零样本关系抽取的高效和精准,解决了现有技术中对零样本关系抽取迫切需求的问题。

    基于动态权重对比学习的多标签文本分类方法和系统

    公开(公告)号:CN114580433A

    公开(公告)日:2022-06-03

    申请号:CN202210477581.2

    申请日:2022-05-05

    Applicant: 北京大学

    Abstract: 本发明涉及信息检测技术领域,提出一种基于动态权重对比学习的多标签文本分类方法和系统,其中方法包括:预处理,得到训练集词向量和标签序列;采用基于预训练语言模型Bert和双向长短时记忆网络的分类模型对训练集多标签文本进行编码,得到包含语义信息的向量化表示;将标签序列和包含语义信息的向量化表示解码,得到预测的标签序列;通过联合交叉熵概率分布损失和对比学习损失计算预测的标签序列和标签序列之间的损失,根据损失优化分类模型作为多标签文本分类模型;将待分类的测试集多标签文本输入所述多标签文本分类模型,输出对应的最终的标签序列。根据该方法有效解决了多标签语义混淆现象以及多标签分类数据集中存在的长尾问题。

    基于对偶对比学习的零样本关系抽取方法和系统

    公开(公告)号:CN114548325A

    公开(公告)日:2022-05-27

    申请号:CN202210441073.9

    申请日:2022-04-26

    Applicant: 北京大学

    Abstract: 本发明涉及软件检测技术领域,提出一种基于对偶对比学习的零样本关系抽取方法和系统,其中方法包括:获取样本数据集,将样本数据集分为训练集、验证集和测试集;对训练集进行预处理;对预处理后的样本进行编码,结合位置编码,得到各样本的向量表示,对训练集中样本的标签进行编码,得到各标签的向量表示;结合样本层的对比学习和标签层的对比学习计算模型损失,计算模型损失后构建关系抽取模型;将验证集输入关系抽取模型,得到最优关系抽取模型;将测试集输入优化后的关系抽取模型,得到语义匹配的结果作为零样本关系抽取结果。根据本发明的方案,保证零样本关系抽取的高效和精准,解决了现有技术中对零样本关系抽取迫切需求的问题。

Patent Agency Ranking