-
公开(公告)号:CN118820927A
公开(公告)日:2024-10-22
申请号:CN202410816275.6
申请日:2024-06-24
Applicant: 北京邮电大学 , 中国人民解放军91054部队
IPC: G06F18/2413 , G06F16/35 , G06F18/23213 , G06F18/214 , G06N3/0442 , G06N3/0464 , G06N3/0455 , G06N3/084 , G06N5/04
Abstract: 本申请的实施例揭示了一种基于KNN检索增强的文本分类方法及装置、设备、介质。方法包括:构建函数f(·),响应于输入的训练集,利用所述函数f(·)将所述训练数据集的文本序列映射到固定长度向量表示形式,将所有文本序列的向量表示和对应的标签存储于训练数据集中;构建文本增强模块,利用所述文本增强模块对所述训练数据集进行增强得到增强后的训练数据集;构建K‑最近邻分类器,利用所述增强后的训练数据集对所述K‑最近邻分类器进行训练,以训练好的K‑最近邻分类器实现文本分类。本发明显著提高了多种深度学习模型(如CNN、LSTM、BERT和RoBERTa)在文本分类任务上的性能,同时无需额外训练即可利用训练数据集信息增强模型的泛化能力和分类准确性。
-
公开(公告)号:CN118820845A
公开(公告)日:2024-10-22
申请号:CN202410816066.1
申请日:2024-06-24
Applicant: 北京邮电大学 , 中国人民解放军91054部队
IPC: G06F18/24 , G06F18/25 , G06N3/088 , G06F17/16 , G06N3/0455
Abstract: 本发明公开一种无监督领域自适应的情感分类方法、装置及介质,其中方法首先训练任务适配器,然后堆叠在任务适配器上进行训练以获得更好的域对齐表示,最后融合堆叠领域适配器和任务适配器进行训练后在目标领域进行域适应。双适配器融合方法通过适配器融合模块解决了动态区分领域不变信息和任务表示信息重要程度的问题,而堆叠领域适配器堆叠在任务适配器上进行训练,学习的域不变信息是基于任务信息的,比基于预训练模型的通用信息在目标领域域适应的时候更加有用。实验结果表明,本发明可以有效的增强无监督领域自适应的域适应性能,同时依然保持参数高效的优点。
-
公开(公告)号:CN118521818A
公开(公告)日:2024-08-20
申请号:CN202410494701.9
申请日:2024-04-24
Applicant: 北京邮电大学
IPC: G06V10/764 , G06V10/774 , G06V10/75
Abstract: 本发明公开一种空中目标检测增量学习方法、装置及介质,其中方法包括:获取数据集,所述数据集包括空中目标数据,构建初始模型和增量模型,初始化所述增量模型;选取伪标签,得到知识蒸馏标签集,并利用改进的KD损失对增量模型进行训练;构建保持类别分布的增量训练阶段回放样本数据集,得到回放样本数据集;基于所述回放样本数据集,对训练后的增量模型进行调整。本发明通过从旧模型中选择性地忽略背景预测,并选择高置信度的前景预测,并将其用作伪标签,来使新知识和旧知识以结构化的方式融合,避免它们与新类别标签产生相互矛盾的监督。
-
-