一种基于弱化语法错误特征表示的中文语法错误更正方法

    公开(公告)号:CN111767718B

    公开(公告)日:2021-12-07

    申请号:CN202010636770.0

    申请日:2020-07-03

    摘要: 本发明提供了一种基于弱化语法错误特征表示的中文语法错误更正方法,在用于中文语法错误更正任务的Transformer神经网络的基础上,通过编码器所提取得到字符特征表示和上下文特征表示,为待纠错文本中每一个字符学习得到一个弱化因子。弱化因子能够通过联合方程将编码器提取得到的字符特征表示和上下文特征表示联合,使得编码器所提取得到的待纠错文本的特征表示中,语法错误的特征信息得到抑制,从而弱化了语法错误特征信息对中文语法错误更正模型的负面影响,提升了基于Transformer的序列到序列神经网络模型在中文语法错误更正任务中的性能。

    一种基于弱化语法错误特征表示的中文语法错误更正方法

    公开(公告)号:CN111767718A

    公开(公告)日:2020-10-13

    申请号:CN202010636770.0

    申请日:2020-07-03

    摘要: 本发明提供了一种基于弱化语法错误特征表示的中文语法错误更正方法,在用于中文语法错误更正任务的Transformer神经网络的基础上,通过编码器所提取得到字符特征表示和上下文特征表示,为待纠错文本中每一个字符学习得到一个弱化因子。弱化因子能够通过联合方程将编码器提取得到的字符特征表示和上下文特征表示联合,使得编码器所提取得到的待纠错文本的特征表示中,语法错误的特征信息得到抑制,从而弱化了语法错误特征信息对中文语法错误更正模型的负面影响,提升了基于Transformer的序列到序列神经网络模型在中文语法错误更正任务中的性能。

    一种基于表达感知最近邻的信息抽取方法

    公开(公告)号:CN118861281A

    公开(公告)日:2024-10-29

    申请号:CN202410808838.7

    申请日:2024-06-21

    摘要: 本发明提供了一种基于表达感知最近邻的信息抽取方法,通过引入后交互最近邻算法,将检索词和文本词均映射入向量空间计算,将信息抽取转换为向量检索问题,提高信息抽取的可扩展性、可适应性以及可解释性。在训练阶段,构建了统一的索引结构,结合表达方式相似度计算和几何分布策略进行采样,并使用了类别不平衡损失函数,保证训练过程各个训练实例具有相对一致的优化方向,提高了可扩展性和可适应性;在非训练阶段,通过结合推理阶段检索到的标注样例和LIME算法,本发明可以对抽取的信息实例进行合理解释,提高了可解释性。