一种基于多模态多任务学习的机器人分类检测方法及系统

    公开(公告)号:CN118506107B

    公开(公告)日:2024-09-27

    申请号:CN202410954465.4

    申请日:2024-07-17

    申请人: 烟台大学

    摘要: 本发明涉及机器人技术领域,尤其是涉及一种基于多模态多任务学习的机器人分类检测方法及系统,包括S1.构建多模态数据集并进行数据预处理;S2.将语义信息数据集和图像数据集进行对齐;S3.构建多模态目标检测模型,将多模态数据集输入模型进行多任务学习,对多模态数据集进行特征提取,并将提取后的视觉图像特征和语义信息特征进行特征融合,利用核心语义注意力机制计算机器人的视觉图像特征的加权和,通过优化加权和完成对模型进行训练。本发明提出了一种基于多模态多任务学习的机器人分类检测方法,融合机器人的图像与语义信息,提升检测时文本与图像的特征交互性,使检测模型具备更高的准确性与鲁棒性。

    一种基于双手交互姿态估计的仿生机械手控制方法及系统

    公开(公告)号:CN118305818A

    公开(公告)日:2024-07-09

    申请号:CN202410733032.6

    申请日:2024-06-07

    申请人: 烟台大学

    IPC分类号: B25J11/00 B25J9/16

    摘要: 本发明涉及计算机视觉技术领域,尤其是涉及一种基于双手交互姿态估计的仿生机械手控制方法及系统。所述方法,包括获取图像数据集,包括获取手部姿态和形状的数据集,并对获取的数据集进行整合;基于获取的手部姿态数据集进行手部姿态估计,包括构建并利用神经网络模型进行手部姿态的特征提取;利用轻量级神经网络模型对手部姿态数据集中手部图像进行特征分析,得到双手的姿态信息;根据特征分析结果进行轻量级神经网络模型训练;通过双手的姿态信息进行姿态对齐和映射,基于姿态对齐和映射生成仿生机械手的控制信息。本发明通过采用轻量级神经网络架构,实现了对两只手之间相对位置的准确预测,使机械手在执行任务时更加准确和可靠。

    一种基于多模态多任务学习的机器人分类检测方法及系统

    公开(公告)号:CN118506107A

    公开(公告)日:2024-08-16

    申请号:CN202410954465.4

    申请日:2024-07-17

    申请人: 烟台大学

    摘要: 本发明涉及机器人技术领域,尤其是涉及一种基于多模态多任务学习的机器人分类检测方法及系统,包括S1.构建多模态数据集并进行数据预处理;S2.将语义信息数据集和图像数据集进行对齐;S3.构建多模态目标检测模型,将多模态数据集输入模型进行多任务学习,对多模态数据集进行特征提取,并将提取后的视觉图像特征和语义信息特征进行特征融合,利用核心语义注意力机制计算机器人的视觉图像特征的加权和,通过优化加权和完成对模型进行训练。本发明提出了一种基于多模态多任务学习的机器人分类检测方法,融合机器人的图像与语义信息,提升检测时文本与图像的特征交互性,使检测模型具备更高的准确性与鲁棒性。

    一种基于双手交互姿态估计的仿生机械手控制方法及系统

    公开(公告)号:CN118305818B

    公开(公告)日:2024-08-13

    申请号:CN202410733032.6

    申请日:2024-06-07

    申请人: 烟台大学

    IPC分类号: B25J11/00 B25J9/16

    摘要: 本发明涉及计算机视觉技术领域,尤其是涉及一种基于双手交互姿态估计的仿生机械手控制方法及系统。所述方法,包括获取图像数据集,包括获取手部姿态和形状的数据集,并对获取的数据集进行整合;基于获取的手部姿态数据集进行手部姿态估计,包括构建并利用神经网络模型进行手部姿态的特征提取;利用轻量级神经网络模型对手部姿态数据集中手部图像进行特征分析,得到双手的姿态信息;根据特征分析结果进行轻量级神经网络模型训练;通过双手的姿态信息进行姿态对齐和映射,基于姿态对齐和映射生成仿生机械手的控制信息。本发明通过采用轻量级神经网络架构,实现了对两只手之间相对位置的准确预测,使机械手在执行任务时更加准确和可靠。