基于混合专家模型的计算方法、装置、设备及存储介质

    公开(公告)号:CN117972293A

    公开(公告)日:2024-05-03

    申请号:CN202410365057.5

    申请日:2024-03-28

    发明人: 彭吉生 黄强

    摘要: 本申请公开了一种基于混合专家模型的计算方法、装置、设备及存储介质,涉及人工智能技术领域,方法包括:根据混合专家模型各层的预估稀疏度计算出归一化的路由权值;根据各个归一化的路由权值确定混合专家模型各层的目标稀疏度;按照各个目标稀疏度和归一化的路由权值激活混合专家模型各层中对应的专家,得到稀疏化后的混合专家模型;利用稀疏化后的混合专家模型计算向量数据。本申请可有针对性地对混合专家模型各层分别确定一个稀疏度,进而可精准分配专家用于后续向量计算,相较于现有技术对混合专家模型每层都进行固定稀疏,本申请可将冗余的专家进行冻结,实现可变稀疏度的混合专家模型,降低了冗余计算量,避免冗余专家占用计算资源。

    基于混合专家模型的计算方法、装置、设备及存储介质

    公开(公告)号:CN117972293B

    公开(公告)日:2024-06-07

    申请号:CN202410365057.5

    申请日:2024-03-28

    发明人: 彭吉生 黄强

    摘要: 本申请公开了一种基于混合专家模型的计算方法、装置、设备及存储介质,涉及人工智能技术领域,方法包括:根据混合专家模型各层的预估稀疏度计算出归一化的路由权值;根据各个归一化的路由权值确定混合专家模型各层的目标稀疏度;按照各个目标稀疏度和归一化的路由权值激活混合专家模型各层中对应的专家,得到稀疏化后的混合专家模型;利用稀疏化后的混合专家模型计算向量数据。本申请可有针对性地对混合专家模型各层分别确定一个稀疏度,进而可精准分配专家用于后续向量计算,相较于现有技术对混合专家模型每层都进行固定稀疏,本申请可将冗余的专家进行冻结,实现可变稀疏度的混合专家模型,降低了冗余计算量,避免冗余专家占用计算资源。

    基于多智能体的集成电路设计方法、装置、设备及介质

    公开(公告)号:CN118535132B

    公开(公告)日:2024-10-01

    申请号:CN202411002090.8

    申请日:2024-07-25

    发明人: 张赟 黄强 彭吉生

    IPC分类号: G06F8/10 G06F8/33 G06F8/41

    摘要: 本申请公开了基于多智能体的集成电路设计方法、装置、设备及介质,涉及集成电路设计技术领域,方法包括:利用产品经理响应于流程指令,根据功能定义文本生成集成电路的功能描述文件;利用芯片架构师根据功能描述文件生成集成电路的技术规格书,将集成电路划分为多个模块电路;利用模块设计工程师根据技术规格书生成各个模块电路的模块规格书,根据各个模块规格书生成对应模块电路的数字设计代码;利用模块验证工程师根据各个模块规格书验证对应模块电路的数字设计代码的功能和参数;利用系统设计工程师将验证通过的数字设计代码根据技术规格书进行拼接,得到集成电路的数字设计总代码。通过多智能体协同工作,提高了设计代码的设计效率和质量。

    基于多智能体的集成电路设计方法、装置、设备及介质

    公开(公告)号:CN118535132A

    公开(公告)日:2024-08-23

    申请号:CN202411002090.8

    申请日:2024-07-25

    发明人: 张赟 黄强 彭吉生

    IPC分类号: G06F8/10 G06F8/33 G06F8/41

    摘要: 本申请公开了基于多智能体的集成电路设计方法、装置、设备及介质,涉及集成电路设计技术领域,方法包括:利用产品经理响应于流程指令,根据功能定义文本生成集成电路的功能描述文件;利用芯片架构师根据功能描述文件生成集成电路的技术规格书,将集成电路划分为多个模块电路;利用模块设计工程师根据技术规格书生成各个模块电路的模块规格书,根据各个模块规格书生成对应模块电路的数字设计代码;利用模块验证工程师根据各个模块规格书验证对应模块电路的数字设计代码的功能和参数;利用系统设计工程师将验证通过的数字设计代码根据技术规格书进行拼接,得到集成电路的数字设计总代码。通过多智能体协同工作,提高了设计代码的设计效率和质量。

    transformer的压缩方法、装置、设备及介质

    公开(公告)号:CN118862994A

    公开(公告)日:2024-10-29

    申请号:CN202410855881.9

    申请日:2024-06-28

    发明人: 彭吉生 黄强

    IPC分类号: G06N3/082 G06N3/045

    摘要: 本申请公开了transformer的压缩方法、装置、设备及介质,涉及神经网络技术领域,方法包括:将transformer模型的键值缓存确定为输入序列;输入序列包括多个多维的输入元素;将输入序列中各个输入元素的维数降低,得到压缩序列;将压缩序列输入transformer模型,得到输出序列;对输出序列左乘目标矩阵,获得目标输出序列;目标输出序列中各个输出元素的维数与对应输入元素的维数相同。对键值缓存进行降维,可降低占用的存储空间,且将降维后的键值缓存输入到transformer模型,使transformer模型在低维空间运行,压缩了transformer模型所需的计算资源。

    解调方法、装置、存储介质及电子设备

    公开(公告)号:CN117411596B

    公开(公告)日:2024-03-15

    申请号:CN202311723954.0

    申请日:2023-12-14

    IPC分类号: H04L1/00 H04L27/38

    摘要: 本公开涉及一种解调方法、装置、存储介质及电子设备,涉及通信技术领域,降低了信号解调的复杂度。该解调方法包括:获取调制信号,并确定所述调制信号的调制方式及信噪比;根据所述调制方式和所述调制信号,从对应所述调制方式的多个预设解调模型中确定出目标解调模型,每个调制方式对应多个预设解调模型,每一所述预设解调模型根据所述调制方式的比例系数构建得到;将所述调制信号和所述信噪比输入至所述目标解调模型中,得到所述目标解调模型输出的对应所述调制信号的软比特,并根据所述软比特,确定对应所述调制信号的解调信号,所述软比特的个数与所述调制信号中的比特个数一致。

    运算电路及测试电路
    7.
    发明公开

    公开(公告)号:CN117294262A

    公开(公告)日:2023-12-26

    申请号:CN202311030146.6

    申请日:2023-08-15

    IPC分类号: H03F1/34 G01R1/30

    摘要: 本公开涉及集成电路测试领域,尤其涉及一种运算电路及测试电路,可根据测试需求切换成不同的运算电路。包括:第一子电路模块、第二子电路模块、第三子电路模块、控制模块及运放模块;第一子电路模块的输出端与运放模块的第一输入端连接,第二子电路模块的输出端与运放模块的第二输入端连接,第三子电路模块的第一端与运放模块的第一输入端连接,第三子电路模块的第二端与运放模块的输出端连接,第一子电路模块的控制端、第二子电路模块的控制端以及第三子电路模块的控制端与控制模块连接;控制模块响应于控制信号,控制在第一子电路模块、第二子电路模块以及第三子电路模块中确定接入运放模块的目标子电路模块接入运放模块组成目标运算电路。