一种基于自注意力的观点及其持有者的联合抽取方法

    公开(公告)号:CN108628828B

    公开(公告)日:2022-04-01

    申请号:CN201810347840.3

    申请日:2018-04-18

    Abstract: 本发明一种基于自注意力的观点及其持有者的联合抽取方法:S1.构建提取观点及其持有者的语料集;S2.识别包含观点的语句;S3.联合抽取观点及其持有者。本发明优点:1、文本分类模型避免了抽取出的句子不包含观点的情况;2、观点及其持有者联合抽取模型摆脱了词性标注、命名实体识别和句法依存分析等自然语言处理环节,避免这些环节出现误差对模型提取效果的影响,且该模型有很高灵活度和覆盖面;3、本发明包含构建提取观点及其持有者的语料集,识别包含观点的语句,联合抽取观点及其持有者。4、本发明在双向LSTM的基础上使用self‑attention有效结合两者优点,使词语序列的表示语义更丰富,训练的模型准确率更高。

    一种基于预训练语言模型的自动文本摘要方法

    公开(公告)号:CN109885673A

    公开(公告)日:2019-06-14

    申请号:CN201910112890.8

    申请日:2019-02-13

    Abstract: 本发明提出了一种基于预训练语言模型的自动文本摘要方法,所述方法使用超大规模无监督中文语料训练复杂的深层语言模型,该模型低层网络结构可以提取保留文本的语法和结构信息,高层网络结构可以提取保留文本的语义和上下文信息,从而为自动文本摘要任务提供更加丰富的文本特征和语义信息;将预训练语言模型与编码器(Encoder)结合起来实现,充分利用预训练语言模型中的文本特征和语义信息,提供更好的语义压缩效果,提升自动文本摘要的性能;将预训练语言模型与解码器(Decoder)结合起来,在文本生成过程中不仅考虑原文中的语义,还考虑到词汇本身的语义信息,提升生成文本的可读性和与原文的关联性,提升自动文本摘要的性能。

    一种个性化推荐方法及装置

    公开(公告)号:CN109871485A

    公开(公告)日:2019-06-11

    申请号:CN201910112704.0

    申请日:2019-02-13

    Abstract: 本申请公开了一种个性化推荐方法及装置,包括:预处理阶段,对样本特征进行重编码处理,得到稀疏编码;将所述稀疏编码输入到相应的嵌入层,经所述嵌入层基于域敏感分解机对所述稀疏编码进行运算,得到稠密表示;神经网络训练阶段,基于标注的推荐标签信息,使用梯度下降法对所述神经网络进行训练;模型预测阶段,将所述稠密表示输入到神经网络的隐藏层,经所述隐藏层对所述稠密表示进行处理,得到推荐预测结果。

    一种个性化推荐方法及装置

    公开(公告)号:CN109871485B

    公开(公告)日:2022-04-05

    申请号:CN201910112704.0

    申请日:2019-02-13

    Abstract: 本申请公开了一种个性化推荐方法及装置,包括:预处理阶段,对样本特征进行重编码处理,得到稀疏编码;将所述稀疏编码输入到相应的嵌入层,经所述嵌入层基于域敏感分解机对所述稀疏编码进行运算,得到稠密表示;神经网络训练阶段,基于标注的推荐标签信息,使用梯度下降法对所述神经网络进行训练;模型预测阶段,将所述稠密表示输入到神经网络的隐藏层,经所述隐藏层对所述稠密表示进行处理,得到推荐预测结果。

    一种诈骗短信识别方法及装置

    公开(公告)号:CN109982272A

    公开(公告)日:2019-07-05

    申请号:CN201910112661.6

    申请日:2019-02-13

    Abstract: 本申请公开了一种诈骗短信识别方法及装置,包括:数据获取阶段,获取短信样本对应的多个特征字段,确定所述多个特征字段分别对应的类型;基于所述多个特征字段分别对应的类型,将所述多个特征字段输入到短信识别神经网络的不同分支中;模型训练阶段,基于短信识别标签信息,使用梯度下降算法,对所述短信识别神经网络进行训练;模型预测阶段,利用所述短信识别神经网络的不同分支对不同类型的特征字段进行处理,基于神经网络的正向传播,结果得到短信识别预测结果。

    一种视觉虚拟智能系统
    8.
    发明公开

    公开(公告)号:CN103970535A

    公开(公告)日:2014-08-06

    申请号:CN201410163041.2

    申请日:2014-04-22

    Abstract: 本系统是一种视觉虚拟智能系统,包括输入部分、处理部分、虚拟智能核心部分、输出部分以及知识库五部分;所述输入部分包括视觉信息处理模块、键盘信息处理模块和输入合并模块;处理部分包括输入关联模块、非线性求解模块;虚拟智能核心部分包括中央控制模块、系统基模块;输出部分包括输出转换模块;知识库分为数据知识库与结构知识库。本系统用途广泛,应用范围广阔,同时具有自动寻找解决方案、智能优化自身等特性,随着使用时间的增加系统的能力会逐步提升,既可以应用于辅助学习生活也可用于无人驾驶、智能机器人等尖端领域,适用于大多数以图像为主要输入且对系统智能要求高的场合。

    一种基于自注意力的观点及其持有者的联合抽取方法

    公开(公告)号:CN108628828A

    公开(公告)日:2018-10-09

    申请号:CN201810347840.3

    申请日:2018-04-18

    Abstract: 本发明一种基于自注意力的观点及其持有者的联合抽取方法:S1.构建提取观点及其持有者的语料集;S2.识别包含观点的语句;S3.联合抽取观点及其持有者。本发明优点:1、文本分类模型避免了抽取出的句子不包含观点的情况;2、观点及其持有者联合抽取模型摆脱了词性标注、命名实体识别和句法依存分析等自然语言处理环节,避免这些环节出现误差对模型提取效果的影响,且该模型有很高灵活度和覆盖面;3、本发明包含构建提取观点及其持有者的语料集,识别包含观点的语句,联合抽取观点及其持有者。4、本发明在双向LSTM的基础上使用self-attention有效结合两者优点,使词语序列的表示语义更丰富,训练的模型准确率更高。

    一种诈骗短信识别方法及装置

    公开(公告)号:CN109982272B

    公开(公告)日:2020-08-28

    申请号:CN201910112661.6

    申请日:2019-02-13

    Abstract: 本申请公开了一种诈骗短信识别方法及装置,包括:数据获取阶段,获取短信样本对应的多个特征字段,确定所述多个特征字段分别对应的类型;基于所述多个特征字段分别对应的类型,将所述多个特征字段输入到短信识别神经网络的不同分支中;模型训练阶段,基于短信识别标签信息,使用梯度下降算法,对所述短信识别神经网络进行训练;模型预测阶段,利用所述短信识别神经网络的不同分支对不同类型的特征字段进行处理,基于神经网络的正向传播,结果得到短信识别预测结果。

Patent Agency Ranking