发明公开
- 专利标题: 一种基于mT5和词频信息熵的多语共同关注主题检测方法
-
申请号: CN202410159540.8申请日: 2024-02-04
-
公开(公告)号: CN118779443A公开(公告)日: 2024-10-15
- 发明人: 张华平 , 岳远 , 商建云
- 申请人: 北京理工大学
- 申请人地址: 北京市海淀区中关村南大街5号
- 专利权人: 北京理工大学
- 当前专利权人: 北京理工大学
- 当前专利权人地址: 北京市海淀区中关村南大街5号
- 代理机构: 北京正阳理工知识产权代理事务所
- 代理商 邬晓楠
- 主分类号: G06F16/34
- IPC分类号: G06F16/34 ; G06F16/35 ; G06F16/33 ; G06F40/216 ; G06F40/247 ; G06F40/237 ; G06F40/58 ; G06N5/025 ; G06N3/045
摘要:
一种基于mT5和词频信息熵的多语共同关注主题检测方法,属于社交媒体信息挖掘技术领域。本方法采用多语言词频信息熵的统计方法,充分考虑共同关注的话题在多语言中分布较为平均的特点,实现不同文化所共同关注的主题词提取;使用mBERT进行同义词聚合,在构建词表过程中实现了冗余词汇的识别,降低输出词汇的冗余程度;通过改进BERTopic中主题词提取算法,使用微调后的mT5对单文档进行主题词的提取,由传统的单语言主题检测改进到多语言的模式,在一定程度上避免潜在价值主题词遗漏的问题。本发明适用于社交媒体信息挖掘技术领域,提高共同关注主题的检测识别能力,并提升主题词的输出质量。