发明公开
- 专利标题: 偏注意力机制和重叠式重构的连续缺失修补方法及系统
-
申请号: CN202410197960.5申请日: 2024-02-22
-
公开(公告)号: CN118013213A公开(公告)日: 2024-05-10
- 发明人: 钱诗友 , 胡瀚文 , 曹健
- 申请人: 上海交通大学
- 申请人地址: 上海市闵行区东川路800号
- 专利权人: 上海交通大学
- 当前专利权人: 上海交通大学
- 当前专利权人地址: 上海市闵行区东川路800号
- 代理机构: 上海汉声知识产权代理有限公司
- 代理商 胡晶
- 主分类号: G06F18/15
- IPC分类号: G06F18/15 ; G06F18/213 ; G06N3/0455 ; G06N3/048 ; G06N3/08 ; G06F123/02
摘要:
本发明提供了一种偏注意力机制和重叠式重构的连续缺失修补方法及系统,包括:将输入的不完整序列分割为多个等长的时间片段;有效表征每个时间片段,得到多个表征结果;基于表征结果挖掘时间片段之间的关联关系。本发明创新性地提出了一种时间序列修补模型,该模型能有效表示不完整片段的特征并学习它们之间的关系,实现了对于不完整序列长期依赖关系的挖掘和对连续缺失数据的修补;本发明引入了一种偏注意力机制,该机制包含两个额外的$key$和$value$向量以及可学习的位置嵌入向量,用于稳定且有效地表征不完整片段;本发明采用一种重叠式重建方法,以有效学习准确修补序列所需的片段内部和片段间的依赖关系。