一种基于Transformer自注意力的可视分析方法及装置

    公开(公告)号:CN116975253A

    公开(公告)日:2023-10-31

    申请号:CN202310750125.5

    申请日:2023-06-25

    Abstract: 本发明公开了一种基于Transformer自注意力的可视分析方法及装置。本发明通过可视分析图表了解深度学习模型的训练层及注意力头的自注意力的整体分布情况及统计规律,并可通过数据链接图和矩阵图具体训练样本查看自注意力在实例中的联系情况;计算机视觉领域的注意力可视分析揭示在训练任务中像素块之间的相互关注性,通过全局归一化和局部归一化两种方式查看不同层和头之间的自注意力分布情况,获得下游任务得出结果的过程。通过本发明,研究人员利用统计分析图表,可直观地观察Transformer模型内部注意力头的值分布情况,选择感兴趣的注意力头。且通过具体的单个注意力头可视化,研究人员可以分析注意力头在具体任务中所发挥的作用,帮助研究人员改进优化模型。

    一种面向天枢人工智能平台的模型结构提取方法及装置

    公开(公告)号:CN116821425A

    公开(公告)日:2023-09-29

    申请号:CN202310750193.1

    申请日:2023-06-25

    Abstract: 本发明公开了一种面向天枢人工智能平台的模型结构提取方法及装置。本发明首先“跟踪/记录”模型上的所有操作,并进一步提取模型计算图节点信息和连接关系,生成模型计算图树形结构。然后基于深度学习模型计算图信息,确定模型结构图中需要保留的层级名称,过滤基本层节点的子节点以及容器节点,同时删除相关的连接边。最后,基于美观性、易交互性和可读性为目标求解图布局方式。本发明不需要借助其他数据信息,完全基于深度神经网络计算图数据信息过滤结构图数据,解决了结构图难以获取的问题。同时,由于仅仅过滤了计算图中不重要节点,因而完整地保留了深度学习模型的主要结构信息。

    一种基于局部协方差优化的点云补全方法

    公开(公告)号:CN114331883B

    公开(公告)日:2025-05-02

    申请号:CN202111579034.7

    申请日:2021-12-22

    Inventor: 吴向阳 渠冲冲

    Abstract: 本发明公开了一种基于局部协方差优化的点云补全方法,包括以下步骤:S1、数据集获取;S2、数据预处理;S3、神经网络模型的构建;S4、神经网络模型损失的构建;S5、神经网络模型的训练和优化;S6、保存模型及模型参数,采用上述技术方案,以不完整的点云为输入,能输出具有完整形状且更加精细的完整点云。在特征编码阶段,使用协方差分析局部点与点之间无序且复杂的拓扑关系,使用不同的卷积核提取局部几何结构信息;考虑形状的完整性和结构相似性,通过融合多尺度的层级特征来推断缺失结构的特征,获得点云在完整形状下的全局特征向量;在解码阶段,不仅能实现点云数量上的扩充,还能对点云的局部几何结构进行优化,从而生成更加精细的完整点云。

    一种用于医学图像分割的无监督域适应方法

    公开(公告)号:CN118735948A

    公开(公告)日:2024-10-01

    申请号:CN202410970095.3

    申请日:2024-07-19

    Abstract: 本发明公开了一种用于医学图像分割的无监督域适应方法,该方法首先扩充医学图像数据集的规模和多样性。其次利用对抗生成网络将数据集中源域图像转换为目标域风格,同时利用循环一致性损失确保转换后图像与原图在语义上一致。然后设计包含三个解码器分支的网络结构,利用训练后的三个解码器分支对目标域图像预测并融合,得到伪标签。最后用伪标签在目标域训练分割解码器,用训练好的目标域分割解码器对新的目标域图像进行预测,得到分割结果。本发明多层次缓解了域偏移,提高了模型自适应能力和泛化性,缓解域偏移导致的类别不平衡。

    基于可移动组件和标架场耦合优化的词云生成方法

    公开(公告)号:CN115861484A

    公开(公告)日:2023-03-28

    申请号:CN202211444766.X

    申请日:2022-11-18

    Abstract: 本发明提出了基于可移动组件和标架场耦合优化的词云生成方法。对于给定的词云形状模型,按用户需要分别生成距离场和标架场,其中距离场指导单词在图案中的布局重心,标架场指导单词的摆放角度。本方法将单词集合分为重要单词和非重要单词,对于重要单词的布局,我们将其视为可移动组件,建立了一个在距离场和标架场背景下的布局优化模型,并通过固定变量和松弛约束等方法求解。对于非重要单词的布局,我们通过标架场提取出的特征流线,利用四叉树方法,高效引导单词填铺模型剩余空间。通过本方法,我们将词云布局与模型形状之间建立了联系,使得词云的中单词的摆放更符合人的感知,同时我们的方法不仅仅局限于二维平面,也支持三维曲面。

    一种形状约束的方向词云快速生成方法

    公开(公告)号:CN113033184B

    公开(公告)日:2025-03-11

    申请号:CN202110254596.8

    申请日:2021-03-09

    Abstract: 本发明公开了一种形状约束的方向词云快速生成方法。本发明首先提取图形的外轮廓点,根据图形外轮廓多边形生成图形的中轴线,并进行中轴线的智能剪枝,得到能反映图形最主要特征的骨架;其次根据剪枝后的中轴线求解外轮廓的方向约束点;然后将剪枝后中轴线的方向和对应外轮廓点的约束方向作为已知方向,插值出整个图形的方向场;最后根据中轴线和方向场指导单词放置的位置和方向。本发明不需要计算图形的距离场来生成图形的螺旋线,只需根据中轴线划分的区域来确定螺旋线下一个点的方向来生成螺旋线,从而解决了现有的标签云生成方法需要计算距离场来生成螺旋线来指导单词的放置时效率低下的问题。

    一种面向自然语言文本的可视化分析方法

    公开(公告)号:CN117349431A

    公开(公告)日:2024-01-05

    申请号:CN202311352484.1

    申请日:2023-10-19

    Inventor: 吴向阳 何鸿杰

    Abstract: 本发明公开了一种面向自然语言文本的可视化分析方法,该方法首先针对自然语言文本,进行可视化信息图的文本可视化数据集提取。其次根据文本可视化数据集,进行连续情节合并,得到连续文本可视化数据集。然后根据连续文本可视化数据集,进行面向文本的文本情节可视化展示。最后根据连续文本可视化数据集,进行面向文本的文本角色可视化展示。本发明使得快速浏览这一功能可以使用自动化的方式实现,并且也传承了其他信息的自动化抽取,为可视化提供了完整丰富的原料,可以帮助用户更容易的探索发现,更容易理解情节。

Patent Agency Ranking