基于预习机制知识蒸馏的模型压缩方法及系统

    公开(公告)号:CN115294407B

    公开(公告)日:2023-01-03

    申请号:CN202211206057.8

    申请日:2022-09-30

    摘要: 本发明属于计算机视觉图像分类领域,为了解决识别图像类别的准确性差且不稳定的问题,提供基于预习机制知识蒸馏的模型压缩方法及系统。其中该方法包括获取图像样本并标注其标签,对学生网络进行监督训练;使得学生网络与预先训练好的教师网络进行输出对齐、特征对齐、类别中心对齐以及类别中心对比学习;计算图像样本的难度分数,动态分配不同图像样本的权重;基于监督训练、输出对齐、特征对齐、类别中心对齐及类别中心对比学习的损失函数及不同图像样本的权重,得到总损失函数;根据总损失函数来指导训练学生网络,得到训练完成的学生网络,以作为图像分类模型,用于对输入的图像进行类别分布预测。其提高了图像识别类别的准确性。

    基于多模态字典学习的短视频分类方法、系统及介质

    公开(公告)号:CN109344887B

    公开(公告)日:2020-07-07

    申请号:CN201811087839.8

    申请日:2018-09-18

    申请人: 山东大学

    IPC分类号: G06K9/62

    摘要: 本发明公开了基于多模态字典学习的短视频分类方法、系统及介质,并将其应用到短视频场景预测问题中,包括以下步骤:离线部分:依据少量标记样本,构建树形引导多模态字典学习,得到初始化的多模态字典给以及相应的稀疏表示;基于学习到的多模态稀疏表示,为每一个模态训练一个短视频场景分类器;在线部分:实时的对新来的短视频样本进行场景预测或者强化字典学习模型。对于新来的短视频,如果有场景标记,就用来强化字典学习模型;如果场景没有被标记,就用离线部分训练学习的分类器对场景类别预测。

    基于神经网络的多模态互补服装搭配方法、系统及介质

    公开(公告)号:CN108960959B

    公开(公告)日:2020-05-12

    申请号:CN201810501840.4

    申请日:2018-05-23

    申请人: 山东大学

    IPC分类号: G06Q30/06 G06N3/02

    摘要: 本发明公开了基于神经网络的多模态互补服装搭配方法、系统及介质,从服装的图片中获取视觉特征,从服装的文字描述中获取文本特征;利用自编码器学习不同服装的视觉特征和文本特征的兼容性空间,得到视觉特征的隐含表示和文本特征的隐含表示;建立重建向量分别与输入特征之间的关系模型;建立服装兼容性模型;然后,基于服装兼容性模型,采用贝叶斯个性化排序算法构建兼容性偏好模型;建立视觉特征隐含表示和文本特征隐含表示的一致性模型;然后,建立服装的多模态隐含特征一致性模型;构建基于深度神经网络的多模态互补服装搭配模型;对已经构建的多模态互补服装搭配模型进行训练;利用已经训练好的多模态互补服装搭配模型进行服装搭配推荐。

    利用多源社交网络的合作学习进行用户兴趣分析方法及系统

    公开(公告)号:CN111026943A

    公开(公告)日:2020-04-17

    申请号:CN201911101644.9

    申请日:2019-11-12

    申请人: 山东大学

    IPC分类号: G06F16/951 G06F16/9536

    摘要: 本发明公开了一种利用多源社交网络的合作学习进行用户兴趣分析方法及系统,包括:构建多源用户信息数据集;对于S个信息源,为全部的社交媒体用户定义S个预测模型,所述S个预测模型构成用户兴趣预测模型;将S个预测模型对应的权重矩阵分割成代表多源信息一致性的权重矩阵与代表多源信息互补性的权重矩阵;构建关于权重和置信度的损失函数;对所述用户兴趣预测模型赋予所述损失函数,并进行迭代优化;将待分析的社交用户多信息源输入到优化后的用户兴趣预测模型,输出该社交用户的兴趣爱好分类的预测。本发明充分利用了多源信息互补性,有效的提高了社交用户兴趣预测的准确度。