一种基于小样本学习的文本实体关系分类方法

    公开(公告)号:CN114780720A

    公开(公告)日:2022-07-22

    申请号:CN202210318340.3

    申请日:2022-03-29

    申请人: 河海大学

    摘要: 本发明公开了一种基于小样本学习的文本实体关系分类方法,包括以下步骤:1)采用卷积神经网络作为实例编码器提取数据集中实例向量的语义特征;2)在小样本学习场景下,通过设计原型级注意力机制模块,为每个实例赋予权重,以加权求和的方式表示每个关系的原型;3)在小样本学习场景下,更换新的度量函数。通过距离级注意力机制模块,利用卷积操作提取支持集向量中的特征系数,并用曼哈顿距离公式与特征系数的乘积作为新的度量函数来计算支持集中每一个关系原型和查询实例之间的距离;4)利用softmax函数实现小样本关系分类。

    边缘计算环境下用于分布式DNN训练的梯度压缩方法

    公开(公告)号:CN113467949B

    公开(公告)日:2022-06-28

    申请号:CN202110766163.0

    申请日:2021-07-07

    IPC分类号: G06F9/50 G06N3/04 G06N3/08

    摘要: 本发明公开一种边缘计算环境下用于分布式DNN训练的梯度压缩方法,建立基于梯度数量的选择标准,筛选满足模型压缩标准的梯度网络层;根据梯度熵评估梯度重要性,自适应地选择梯度稀疏化的阈值,基于灵活的阈值对梯度稀疏化压缩;根据梯度残差和动量矫正机制,累积并优化梯度残差,减少梯度稀疏造成训练模型的性能损失;根据三元量化压缩方案,量化稀疏后的梯度,得到稀疏三元张量;根据无损编码技术,记录传递张量中非零梯度的距离,并对其优化编码,输出稀疏三元化梯度。本发明基于梯度数量和梯度熵的稀疏三元梯度压缩算法,能自适应地压缩分布式DNN训练中梯度交换阶段的梯度大小,有效地提高分布式DNN训练的通信效率。

    一种基于明文特征的图像置乱方法

    公开(公告)号:CN107944286B

    公开(公告)日:2021-06-01

    申请号:CN201711248754.9

    申请日:2017-12-01

    申请人: 河海大学

    IPC分类号: G06F21/60 G06T1/00

    摘要: 本发明公开了一种基于明文特征的图像置乱方法,利用明文图像的明文特征对初值产生扰动,使得图像的置乱不仅依赖于密钥还依赖于图像的本身,明文图像的细小变化都会导致置乱图像的不同,同时图像的置乱不会改变像素值,不需要额外的传递明文特征值。此外,本方法不仅实现了图像的快速置乱,且抗攻击能力强,能抵抗已知明文攻击和选择明文攻击,且恢复图像的可读性不受影响。