基于动态权重对比学习的多标签文本分类方法和系统

    公开(公告)号:CN114580433B

    公开(公告)日:2022-08-02

    申请号:CN202210477581.2

    申请日:2022-05-05

    Applicant: 北京大学

    Abstract: 本发明涉及信息检测技术领域,提出一种基于动态权重对比学习的多标签文本分类方法和系统,其中方法包括:预处理,得到训练集词向量和标签序列;采用基于预训练语言模型Bert和双向长短时记忆网络的分类模型对训练集多标签文本进行编码,得到包含语义信息的向量化表示;将标签序列和包含语义信息的向量化表示解码,得到预测的标签序列;通过联合交叉熵概率分布损失和对比学习损失计算预测的标签序列和标签序列之间的损失,根据损失优化分类模型作为多标签文本分类模型;将待分类的测试集多标签文本输入所述多标签文本分类模型,输出对应的最终的标签序列。根据该方法有效解决了多标签语义混淆现象以及多标签分类数据集中存在的长尾问题。

    基于对偶对比学习的零样本关系抽取方法和系统

    公开(公告)号:CN114548325B

    公开(公告)日:2022-08-02

    申请号:CN202210441073.9

    申请日:2022-04-26

    Applicant: 北京大学

    Abstract: 本发明涉及软件检测技术领域,提出一种基于对偶对比学习的零样本关系抽取方法和系统,其中方法包括:获取样本数据集,将样本数据集分为训练集、验证集和测试集;对训练集进行预处理;对预处理后的样本进行编码,结合位置编码,得到各样本的向量表示,对训练集中样本的标签进行编码,得到各标签的向量表示;结合样本层的对比学习和标签层的对比学习计算模型损失,计算模型损失后构建关系抽取模型;将验证集输入关系抽取模型,得到最优关系抽取模型;将测试集输入优化后的关系抽取模型,得到语义匹配的结果作为零样本关系抽取结果。根据本发明的方案,保证零样本关系抽取的高效和精准,解决了现有技术中对零样本关系抽取迫切需求的问题。

    基于动态权重对比学习的多标签文本分类方法和系统

    公开(公告)号:CN114580433A

    公开(公告)日:2022-06-03

    申请号:CN202210477581.2

    申请日:2022-05-05

    Applicant: 北京大学

    Abstract: 本发明涉及信息检测技术领域,提出一种基于动态权重对比学习的多标签文本分类方法和系统,其中方法包括:预处理,得到训练集词向量和标签序列;采用基于预训练语言模型Bert和双向长短时记忆网络的分类模型对训练集多标签文本进行编码,得到包含语义信息的向量化表示;将标签序列和包含语义信息的向量化表示解码,得到预测的标签序列;通过联合交叉熵概率分布损失和对比学习损失计算预测的标签序列和标签序列之间的损失,根据损失优化分类模型作为多标签文本分类模型;将待分类的测试集多标签文本输入所述多标签文本分类模型,输出对应的最终的标签序列。根据该方法有效解决了多标签语义混淆现象以及多标签分类数据集中存在的长尾问题。

    基于文档上下文的机器翻译方法及装置

    公开(公告)号:CN111666774B

    公开(公告)日:2022-06-03

    申请号:CN202010334379.5

    申请日:2020-04-24

    Applicant: 北京大学

    Abstract: 本发明实施例提供一种基于文档上下文的机器翻译方法及装置,方法包括:基于句子级Encoder获取当前句子的源端上下文表征、目标端上下文草稿表征和当前句子的草稿译文表征;基于文档级Encoder获取当前句子的源端句子表征,在源端句子表征中融合源端上下文表征,获取融合后的所述源端句子表征;基于文档级Decoder获取所述当前句子的目标端句子表征,在目标端句子表征中融合当前句子的草稿译文表征和目标端上下文草稿表征,根据融合后的目标端句子表征和融合后的源端句子表征,获取当前句子的最终翻译结果。本发明实施例引入文档级信息进行上下文知识推理,以此对句子级别的草稿译文进行修正,改善了翻译质量,得到更好的译文。

    基于对偶对比学习的零样本关系抽取方法和系统

    公开(公告)号:CN114548325A

    公开(公告)日:2022-05-27

    申请号:CN202210441073.9

    申请日:2022-04-26

    Applicant: 北京大学

    Abstract: 本发明涉及软件检测技术领域,提出一种基于对偶对比学习的零样本关系抽取方法和系统,其中方法包括:获取样本数据集,将样本数据集分为训练集、验证集和测试集;对训练集进行预处理;对预处理后的样本进行编码,结合位置编码,得到各样本的向量表示,对训练集中样本的标签进行编码,得到各标签的向量表示;结合样本层的对比学习和标签层的对比学习计算模型损失,计算模型损失后构建关系抽取模型;将验证集输入关系抽取模型,得到最优关系抽取模型;将测试集输入优化后的关系抽取模型,得到语义匹配的结果作为零样本关系抽取结果。根据本发明的方案,保证零样本关系抽取的高效和精准,解决了现有技术中对零样本关系抽取迫切需求的问题。

    序列标注方法及装置
    66.
    发明授权

    公开(公告)号:CN111666734B

    公开(公告)日:2021-08-10

    申请号:CN202010334370.4

    申请日:2020-04-24

    Applicant: 北京大学

    Abstract: 本发明实施例提供一种序列标注方法及装置。其中,方法包括:获取待分析的句子;将待分析的句子输入至序列标注模型,输出句子的分词结果及每个词的标注结果;其中,序列标注模型是基于样本句子及样本句子对应的分词和标注数据进行基于强化学习的训练获得的。本发明实施例提供的序列标注方法及装置,通过强化学习技术隐式地学习文本的分词信息,能缓解中文序列标注中分词与目标的不匹配。

    一种类案推荐方法及系统
    67.
    发明公开

    公开(公告)号:CN111651997A

    公开(公告)日:2020-09-11

    申请号:CN202010312497.6

    申请日:2020-04-20

    Applicant: 北京大学

    Abstract: 本发明实施例提供一种类案推荐方法及系统,该方法包括:获取目标案件的属性特征;将属性特征输入到神经网络模型中,获取目标案件对应的类案向量;根据目标案件对应的类案向量和案件库中每一候选案件对应的类案向量之间的距离,从案件库中获取目标案件对应的第一初始类案集、第二初始类案集、第三初始类案集、第四初始类案、第五初始类案集、第六初始类案集和第七初始类案集;并获取目标案件的若干目标类案,以使得根据每一目标类案的判决结果,对目标案件进行判决。本发明实施例提供的一种类案推荐方法及系统,能够提升类案推荐的精确率,做到按需求提供更加精准,数量可控的类案以供参考,提升了类案推荐的效率,使推荐案例更加合理化。

    案件事理关系确定方法及系统

    公开(公告)号:CN111639494A

    公开(公告)日:2020-09-08

    申请号:CN202010312498.0

    申请日:2020-04-20

    Applicant: 北京大学

    Abstract: 本发明实施例提供了一种案件事理关系确定方法及系统,所述方法包括采集案件的描述文本,并确定所述案件的属性对应的所有事件类型;对所述描述文本进行分词处理,得到分词结果,并从所述分词结果中提取所述案件中的实体信息;基于所有事件类型以及所述实体信息,从所述分词结果中提取所述案件中每一事件对应的事件信息;基于每一事件对应的事件信息,确定所述案件中所有事件之间的事理关系。本发明实施例通过将案件以事件为核心结构化拆解,并以此确定案件事理关系的方法,充分使用了事件信息,可以用于构造事件逻辑链条、元事件预测、动机分析等下游任务,可以进一步达到完成相关法条查找、自动判决等智慧法学任务的效果。

    一种分布式RFID发现服务实现方法和系统

    公开(公告)号:CN101625742A

    公开(公告)日:2010-01-13

    申请号:CN200910087478.1

    申请日:2009-06-25

    Applicant: 北京大学

    Abstract: 本发明公开了一种分布式RFID发现服务的实现方法,包括:跟踪步骤,是沿物流流向,从每个供应链节点获取部分信息,然后将全部节点信息拼接出完整物流信息链;以及追溯步骤,是逆物流流向,同样从供应链每个节点获取部分信息,然后将全部节点信息拼接出完整的物流信息链,从中定位特定物品所在的位置。

Patent Agency Ranking