公开(公告)号：CN118828050A

公开(公告)日：2024-10-22

申请号：CN202410828992.0

申请日：2024-06-25

申请人： 上海人工智能创新中心

发明人： 曾艳红 ,  张倚铭 ,  顾毅骋 ,  邢哲宁 ,  王远程 ,  武执政 ,  陈恺

IPC分类号： H04N21/233 ,  G06N3/0464 ,  G06N3/08 ,  H04N21/234 ,  H04N21/439 ,  H04N21/44 ,  H04N21/242 ,  H04N21/43 ,  H04N21/8547 ,  G10L25/48

摘要： 本发明涉及一种无声视频拟音方法、电子设备、存储介质，方法利用注入处理后的Unet网络生成待拟音的无声视频的视频拟音，其中，注入处理包括如下步骤：针对所述无声视频和预先获取的提示词，分别进行特征提取得到视觉编码和文本编码；基于平行交叉注意力机制，将所述视觉编码和文本编码注入预先构建的Unet网络的交叉注意力层；针对所述无声视频，通过事件发生检测得到事件发生信号；通过逐层残差添加的方式，将所述事件发生信号注入所述Unet网络的解码器层。与现有技术相比，本发明具有改善音画同步、实现文本控制的拟音生成等优点。