- 专利标题: 预训练模型提示向量的确定方法、装置及电子设备
-
申请号: CN202210524324.X申请日: 2022-05-14
-
公开(公告)号: CN114723050B公开(公告)日: 2022-08-23
- 发明人: 柴业坤 , 王硕寰 , 孙宇
- 申请人: 北京百度网讯科技有限公司
- 申请人地址: 北京市海淀区上地十街10号百度大厦二层
- 专利权人: 北京百度网讯科技有限公司
- 当前专利权人: 北京百度网讯科技有限公司
- 当前专利权人地址: 北京市海淀区上地十街10号百度大厦二层
- 代理机构: 北京清亦华知识产权代理事务所
- 代理商 单冠飞
- 主分类号: G06N3/08
- IPC分类号: G06N3/08
摘要:
本公开公开了一种预训练模型提示向量的确定方法、装置及电子设备,尤其涉及自然语言处理、深度学习等人工智能技术领域。其中,方案为:获取第一个提示向量及样本数据对应的第一向量;将预训练模型分别进行N次不同的剪枝处理,以获取N个剪枝模型;将第一向量与第一个提示向量融合后,分别输入至N个剪枝模型中,以获取第一个提示向量对应的第一分数;基于第一分数,对第一个提示向量进行修正,以确定第二个提示向量;基于第二个提示向量,返回执行上述获取第一分数的操作,直至确定样本数据对应的目标提示向量。由此,通过多个不同的剪枝模型,从多视角出发对提示向量进行优化,提高了目标提示向量的准确性。
公开/授权文献
- CN114723050A 预训练模型提示向量的确定方法、装置及电子设备 公开/授权日:2022-07-08