公开(公告)号：CN118014049A

公开(公告)日：2024-05-10

申请号：CN202410177798.0

申请日：2024-02-08

Applicant: 国家计算机网络与信息安全管理中心 ,  中国科学院自动化研究所

Inventor： 段东圣 ,  侯炜 ,  段运强 ,  时磊 ,  井雅琪 ,  段荣昌 ,  吕东 ,  佟玲玲 ,  任博雅 ,  刘雨帆 ,  胡卫明 ,  李兵

IPC: G06N3/09 ,  G06N3/0455 ,  G06F18/22 ,  G06F18/2431 ,  G06F40/30 ,  G06V20/70 ,  G06V10/40 ,  G06V10/82

Abstract: 本发明提供一种图文互生模型的训练方法，该方法包括：基于模态自感单元从样本模态数据中提取自感信息；模态自感单元基于自注意力网络通过多任务有监督训练得到；基于图文编码器对自感信息进行编码，得到隐空间特征，并对隐空间特征进行多模态扩散处理，得到扩散后的目标模态类型的隐空间特征；基于图文解码器对自感信息和扩散后的目标模态类型的隐空间特征进行解码，得到解码信息；根据解码信息和多任务损失函数对图文编码器和图文解码器进行训练，得到图文互生模型；目标损失包括重建损失、图像类的理解辅助任务对应损失和文本类的理解辅助任务对应损失确定。本发明所述方法提高了图文互生对应模型的性能和可适配性。

公开(公告)号：CN115527140A

公开(公告)日：2022-12-27

申请号：CN202210786900.8

申请日：2022-07-04

Applicant: 国家计算机网络与信息安全管理中心 ,  中国科学院自动化研究所

Inventor： 李扬曦 ,  彭成维 ,  刘科栋 ,  缪亚男 ,  王佩 ,  胡卫明 ,  李兵 ,  刘雨帆 ,  王坚

IPC: G06V20/40 ,  G06V10/75 ,  G06V10/774 ,  G06V10/80 ,  G06V10/82 ,  G06N3/04 ,  G06N3/08

Abstract: 本发明提供一种敏感内容检测方法、装置、电子设备和存储介质，涉及内容安全技术领域，所述方法包括：获取待检测视频；将待检测视频输入至视觉元素分析模型，得到视觉元素分析模型输出的视觉元素结果和视觉特征；将待检测视频输入至听觉元素分析模型，得到听觉元素分析模型输出的听觉元素结果和听觉特征；将视觉特征和听觉特征输入至事件检测模型，输出用于表征是否包含敏感内容的事件检测结果；将视觉元素结果和听觉元素结果与敏感内容规则库匹配，输出敏感事件类型，并结合事件检测结果和敏感事件类型，确定敏感内容检测结果。本发明可实现对视频敏感内容的全面检测，提升检测灵活度和准确度。