公开(公告)号：CN118378631A

公开(公告)日：2024-07-23

申请号：CN202410805963.2

申请日：2024-06-21

Applicant: 北京大学 ,  鹏城实验室

Inventor： 杨耀东 ,  马成栋 ,  刘方明

IPC: G06F40/30 ,  G06F40/247 ,  G06F40/284

Abstract: 本申请涉及人工智能技术领域，公开一种文本审查方法、装置、设备及存储介质。该方法包括：获取文本生成网络生成的待审查文本；将待审查文本输入文本审查网络的敏感词过滤网络，对待审查文本包含的敏感词进行替换，得到敏感词过滤文本；将敏感词过滤文本输入文本审查网络的语义过滤网络，对敏感词过滤文本进行语义评价以及进行语义扩展后的语义评价，得到语义评价结果；根据语义评价结果，生成相应的文本审查结果。本申请实施例可以提高对文本内容包含的敏感信息审查的全面性和准确性。

公开(公告)号：CN118378631B

公开(公告)日：2024-10-15

申请号：CN202410805963.2

申请日：2024-06-21

Applicant: 北京大学 ,  鹏城实验室

Inventor： 杨耀东 ,  马成栋 ,  刘方明

IPC: G06F40/30 ,  G06F40/247 ,  G06F40/284

Abstract: 本申请涉及人工智能技术领域，公开一种文本审查方法、装置、设备及存储介质。该方法包括：获取文本生成网络生成的待审查文本；将待审查文本输入文本审查网络的敏感词过滤网络，对待审查文本包含的敏感词进行替换，得到敏感词过滤文本；将敏感词过滤文本输入文本审查网络的语义过滤网络，对敏感词过滤文本进行语义评价以及进行语义扩展后的语义评价，得到语义评价结果；根据语义评价结果，生成相应的文本审查结果。本申请实施例可以提高对文本内容包含的敏感信息审查的全面性和准确性。

公开(公告)号：CN119250173A

公开(公告)日：2025-01-03

申请号：CN202410791180.3

申请日：2024-06-19

Applicant: 鹏城实验室 ,  北京大学

Inventor： 龚轶凡 ,  刘方明 ,  王雯 ,  叶培钧 ,  马成栋 ,  杨耀东

IPC: G06N5/022

Abstract: 本申请实施例提供了一种模型评测方法、装置、计算机设备及可读存储介质，属于数据处理技术领域。获取多个评测问题；针对每个评测问题，将评测问题输入至待评测模型得到第一评测答案，以及将评测问题分别输入多个参照模型中，得到多个第二评测答案；将第一评测答案分别与多个第二评测答案组合得到多个评测组合，并将多个评测组合输入至每个预设评估模型中，得到评测问题在每个预设评估模型下的第一评测得分；基于多个预设评估模型对应的多个第一评测得分，确定待评测模型在评测对应的评测问题时的目标得分；基于待评测模型在评测多个评测问题时的多个目标得分，确定待评测模型的评测得分。以此，能够提高对模型进行评测的准确性。

公开(公告)号：CN118916692A

公开(公告)日：2024-11-08

申请号：CN202410697065.X

申请日：2024-05-30

Applicant: 鹏城实验室

Inventor： 王雯 ,  刘方明 ,  龚轶凡 ,  高骏 ,  杨耀东 ,  何召锋

IPC: G06F18/214 ,  G06F18/22 ,  G06N20/00

Abstract: 本申请实施例提供了一种指令数据集构建方法、装置、电子设备及存储介质，属于自然语言处理技术领域。方法包括：获取样本语料文本，以及样本语料文本所处的多个嵌套的背景层级的层级名称；获取预设的提示模板，将多个层级名称作为关键词，并按照对应的背景层级的顺序依次填充到提示模板中的多个空位中，生成第一提示文本；根据第一提示文本和样本语料文本生成目标提示文本，并将目标提示文本输入预设的大语言模型中，得到与样本语料文本相关的目标问答对；基于目标问答对构建指令数据集。本申请实施例提供的指令数据集构建方法、装置、电子设备及存储介质，可以提高构建的指令数据集的质量。