一种筛选含义偏移子词的方法、装置和存储介质
摘要:
本发明公开了一种筛选含义偏移子词的方法、装置和存储介质,其中筛选含义偏移子词的方法,通过共享子词统计出源领域和目标领域来源词组,通过比较源领域和目标领域来源词组来判定共享子词含义是否发生偏移,通过预训练语言模型对来源词组进行综合表示编码,利用余弦相似度量化来源词组间的相似度。有效的筛选出发生含义偏移的共享子词,优化目标领域子词表示,从而提高目标领域模型性能。
0/0