智能汽车的传感系统
    1.
    实用新型

    公开(公告)号:CN210101502U

    公开(公告)日:2020-02-21

    申请号:CN201920367858.X

    申请日:2019-03-21

    IPC分类号: B60R11/00

    摘要: 本实用新型实施例提供一种智能汽车的传感系统,包括安装底板和传感器组件,安装底板安装于智能汽车车顶上;传感器组件包括第一、第二、第三和第四激光雷达,第一激光雷达通过第一旋转装置安装于靠近安装底板最前端的表面,第二激光雷达通过第二旋转装置安装于安装底板的最左端,第三激光雷达通过第三旋转装置安装于安装底板的最右端,第四激光雷达通过第四旋转装置安装于安装底板的最后端,第一旋转装置、第二旋转装置、第三旋转装置和第四旋转装置均包括固定座和旋转座,安装于旋转座上的激光雷达能够旋转,其能及时、准确且全面采集汽车周围环境信息。

    基于预测解码的大语言模型的推理加速方法及装置

    公开(公告)号:CN118886511A

    公开(公告)日:2024-11-01

    申请号:CN202410807709.6

    申请日:2024-06-21

    IPC分类号: G06N5/046 G06F40/166

    摘要: 本发明公开了一种基于预测解码的大语言模型的推理加速方法及装置,方法包括:获取用户输入,基于特征向量,期望大语言模型提供与特征向量对应的预期输出;特征向量同步输入给并发推理小语言模型和大语言模型,小语言模型基于特征向量生成顺序的NUM个token语段并将其按生成顺序逐一发送给大语言模型;大语言模型基于特征向量进行推理,在接收到token语段时,中断推理,基于当前的推理结果开启对token语段的概率验证;基于概率验证结果,确定输出序列。本方法利用小模型小语言模型提前快速的生成多个候选token,相比逐个token生成,该方法大幅提升了生成效率。