-
公开(公告)号:CN117372991A
公开(公告)日:2024-01-09
申请号:CN202311236669.6
申请日:2023-09-22
Applicant: 山东大学
IPC: G06V20/58 , G01S17/86 , G01S17/931 , B60W60/00 , B60W50/00 , G06V10/26 , G06V10/764 , G06V10/80 , G06V10/82 , G06N3/0442 , G06N3/045 , G06N3/0455 , G06N3/0464
Abstract: 本发明提出了基于多视角多模态融合的自动驾驶方法及系统,涉及自动驾驶技术领域,通过自动驾驶感知网络处理多视角多模态的观测数据,生成全局特征向量和刹车分数;将全局特征向量、车辆行驶的当前位置和目标位置输入到路径点预测网络中,得到预测的路径点;基于预测的路径点、车辆速度信息和刹车分数,完成对车辆的执行控制;本发明通过由多视角语义分割模块、点云语义分割模块、多模态特征融合模块和超距相机模块四个模块组成的自动驾驶感知网络,对车辆周围交通环境进行全面感知,解决了车辆对车身两侧障碍物的漏检测和因没有正确识别交通信号灯而产生的违规行为,加强了对多个交通参与者行为的理解。
-
公开(公告)号:CN117372825A
公开(公告)日:2024-01-09
申请号:CN202311174727.7
申请日:2023-09-12
Applicant: 山东大学
IPC: G06V10/80 , G06V10/774 , G06N3/0464 , G06N3/084 , G06T11/00 , G06F16/29 , G06T3/4038
Abstract: 本发明提出了一种BEV语义地图构建方法及系统,涉及地图构建技术领域,获取待构建交通场景的普通天气场景图和复杂天气场景图;基于普通天气场景图和复杂天气场景图,对构建的地图构建模型进行联合两阶段训练,输出BEV语义地图;本发明将雾、雨、雪等影响驾驶安全的天气定义为复杂天气,将晴天、阴天等视为普通天气,对普通天气下的数据集添加雨雾雪效果以获取复杂天气数据,通过调用普通天气下的交通场景信息,促进复杂天气下交通场景BEV语义地图的生成,以缓解目前复杂天气下交通场景的BEV语义地图缺失的问题。
-
公开(公告)号:CN117877067A
公开(公告)日:2024-04-12
申请号:CN202311791152.3
申请日:2023-12-22
Applicant: 山东大学
Abstract: 本发明公开了一种瞬时行人过马路意图预测方法、系统、介质及设备,涉及交通安全技术领域。该方法包括步骤:获取目标行人过马路时的非可视化观测信息和可视化观测信息,非可视化观测信息和可视化观测信息均为瞬时观测信息;提取瞬时观测信息中的短时特征;使用短时特征匹配长时特征池中相应的伪长时特征,并将伪长时特征与短时特征拼接,完成对多模态长短时特征的提取;根据不同模态之间的关联强度对多模态长短时特征进行融合操作,得到融合特征;对融合特征进行过马路意图预测,得到预测结果。本发明解决了现有方法未考虑到的瞬时观测导致的特征缺失和多模态长短时特征融合问题,提高了在瞬时观测下行人过马路意图预测方法的准确性和稳定性。
-
公开(公告)号:CN119636794A
公开(公告)日:2025-03-18
申请号:CN202411684413.6
申请日:2024-11-22
Applicant: 山东大学
Abstract: 本发明公开了一种基于人机协作的强化学习自动驾驶方法及系统,属于自动驾驶技术领域。包括:获取自动驾驶车辆的当前状态;将自动驾驶车辆的当前状态输入训练好的自动驾驶网络进行处理,以获取自动驾驶车辆当前时刻的决策动作;引入无奖励策略学习方法,以人类接管成本最小化、动作分布熵和平稳度最大化为目标,通过显式干预机制和隐式干预机制对自动驾驶网络进行训练。设计了显式和隐式干预的价值函数,以最小的人类接管成本和舒适度最大化为目标,训练智能体在不可见的交通场景中进行驾驶;解决自动驾驶汽车在复杂动态交通环境中的策略优化问题。
-
公开(公告)号:CN119516505A
公开(公告)日:2025-02-25
申请号:CN202411684420.6
申请日:2024-11-22
Applicant: 山东大学
IPC: G06V20/56 , G06V10/26 , G06V10/44 , G06V10/77 , G06V10/80 , G06V10/82 , G06N3/0442 , G06N3/0464 , G06N3/08
Abstract: 本发明公开了一种基于仿生复眼阵列相机的车辆检测方法,属于自动驾驶技术领域。包括:获取多视角的单相机图像,分别对多个单相机图像进行特征提取,生成对应的相机特征和语义分割预测结果;通过基于语义信息的注意力机制对相机特征和语义分割预测结果进行处理并映射至三维网格地图,获取体素特征;通过基于深度信息的注意力机制对体素特征进行处理,生成最终特征表示;结合3D卷积和可变形卷积对多视角的最终特征表示进行融合,生成三维网格的占用情况并判断三维网格中是否存在车辆。能够融合相机重叠区域的多视角信息,解决大视场角下的车辆感知与检测存在的检测准确性有待提高的问题。
-
公开(公告)号:CN117372900A
公开(公告)日:2024-01-09
申请号:CN202311279151.0
申请日:2023-09-28
Applicant: 山东大学
Abstract: 本发明公开了一种基于无人机的交通路口旋转多目标跟踪方法及系统,输入交通视频流,逐帧进行旋转目标检测,训练旋转注意力相似性学习模块,提取目标对象的特征;计算第t与第t‑1帧目标跟踪对象的特征之间的余弦距离;计算第t帧目标检测对象的检测框与第t帧目标跟踪对象的预测框之间的欧式距离和面积交并比;根据欧式距离划分邻近检测框和疏远检测框;针对邻近检测框,将第一代价矩阵输入到匈牙利算法中,得到第一次跟踪轨迹;针对疏远检测框和第一次匹配失败的目标跟踪对象,将第二代价矩阵输入到匈牙利算法中,得到第二次跟踪轨迹;将第一次和第二次跟踪轨迹合并,得到第t帧图像的目标跟踪对象的跟踪轨迹,更新目标跟踪对象列表。
-
公开(公告)号:CN116189155A
公开(公告)日:2023-05-30
申请号:CN202211619272.0
申请日:2022-12-14
Applicant: 山东大学
Abstract: 本发明公开了一种基于深度特征和图注意力机制的疲劳驾驶检测方法及系统,该方法包括:以多个标注是否疲劳驾驶的原始视频序列构建样本训练集;构建疲劳驾驶检测模型,利用样本训练集训练所述疲劳驾驶检测模型;所述训练过程包括:基于原始视频序列,通过面部特征提取和位置编码,获取时空面部特征序列;基于图注意力机制学习时空面部特征之间的相互关系以及每个特征对最终分类的重要性权重,基于相互关系更新时空面部特征序列,基于重要性权重与更新的时空面部特征序列进行加权融合,获得融合特征,基于融合特征进行二分类训练;将待检测的原始视频序列输入训练完成的疲劳驾驶检测模型,完成疲劳驾驶检测,提高疲劳驾驶检测的精度和泛化性。
-
公开(公告)号:CN115861981A
公开(公告)日:2023-03-28
申请号:CN202211497127.X
申请日:2022-11-25
Applicant: 山东大学
IPC: G06V20/59 , G06V20/40 , G06V10/80 , G06V40/16 , G06V10/774 , G06N3/0464 , G06N3/08
Abstract: 本发明公开了一种基于视频姿态不变性的驾驶员疲劳行为检测方法及系统,涉及计算机视觉技术领域。该发明提出基于面部几何信息的关键帧选择模型和头脸动作信息融合时空网络。首先,对车载摄像捕捉到的驾驶员视频进行序列化处理,并进行图像预处理。随后基于人脸关键点的几何特征和两阶段判决机制来构建基于面部几何信息的关键帧选择模型,并提取视频序列中的关键帧。最后基于面部前向化处理提取任意姿态下的面部动作模态,并联合基于头部姿态估计获取的头部姿态属性构建头脸动作信息融合时空网络,用于检测打哈欠、说话、正常等驾驶员状态。本发明充分考虑头部姿态属性,具有高姿态鲁棒性,可有效区分打哈欠等疲劳行为和其他的驾驶员状态。
-
公开(公告)号:CN119904514A
公开(公告)日:2025-04-29
申请号:CN202411656311.3
申请日:2024-11-19
Applicant: 山东大学
IPC: G06T7/73 , G06T7/80 , G06N3/0464 , G06N3/048 , G06N3/08
Abstract: 本公开提供了基于增强特征投影解耦的单目6D位姿估计方法及系统,涉及机器人视觉感知相关技术领域,包括:获取目标物体场景的单目RGB图像;将单目RGB图像输入到训练后的位姿估计网络中,得到物体的6D位姿;位姿估计网络进行局部特征和多尺度全局特征的提取、融合,得到高维物体增强特征表示;对高维物体增强特征表示进行坐标投影解耦,得到目标物体的三维模型和二维图像间的密集对应映射以及物体掩码;对目标物体的密集对应映射和物体掩码进行位姿回归,得到物体的6D位姿;本发明不需要依赖深度信息、多视角图像以及多种中间表示,仅需使用单目RGB图像即可准确估计物体位姿,降低网络设计和数据标注成本并提高对复杂场景的鲁棒性。
-
公开(公告)号:CN119515855A
公开(公告)日:2025-02-25
申请号:CN202411684193.7
申请日:2024-11-22
Applicant: 山东大学
Abstract: 本发明属于机械臂装配技术领域,提供了一种基于非结构化螺孔多级定位的机械臂螺丝锁付方法及系统,包括:获取待锁付的目标图像;基于不同膨胀率对目标图像进行多尺度感知融合,提取目标图像中的螺孔边缘形态;根据所提取到的螺孔边缘形态和多层监督机制,得到螺孔全局边缘预测图;基于所得到的螺孔全局边缘预测图进行螺孔中心定位,得到螺孔真实姿态;基于所得到的螺孔全局边缘预测图进行螺孔中心定位,得到螺孔的位置信息以及含误差的粗姿态信息;在姿态对齐网络中校正含误差的粗姿态信息以确定螺孔姿态信号,机械臂根据螺孔的位置信息和姿态信息运动到螺孔正上方进行螺丝锁付。
-
-
-
-
-
-
-
-
-