-
公开(公告)号:CN119294454B
公开(公告)日:2025-03-25
申请号:CN202411824198.5
申请日:2024-12-12
Applicant: 之江实验室
Abstract: 本申请涉及一种人工智能加速卡异构集群适配方法、系统和存储介质,其中,该人工智能加速卡异构集群适配方法包括:获取根据训练框架提供的私有关键字注册的统一标准化适配模块;训练框架为异构集群模型的训练框架;在统一标准化适配模块中,通过工厂模式接入各异构加速卡的硬件层软件栈;通过插件形式扩展训练框架的计算任务分发机制,以使训练框架自主寻优目标异构加速卡;根据统一标准化适配模块所在的运行环境进行条件编译,以接入目标异构加速卡并用于训练框架自主寻优;根据统一测试模块验证统一标准化适配模块与各目标异构加速卡的适配状态,解决了人工智能加速卡异构集群适配开发成本大和无法自主寻优的问题。
-
公开(公告)号:CN119127149A
公开(公告)日:2024-12-13
申请号:CN202411605822.2
申请日:2024-11-12
Applicant: 之江实验室
Abstract: 本申请涉及一种设备后端的深度学习框架适配方法、装置以及设备。所述方法包括:获取设备后端的预配置信息;根据所述预配置信息,生成所述设备后端的初始框架和集成模版;基于所述初始框架和集成模板,构建所述设备后端的适配代码模板;对所述适配代码模板进行自适应代码配置,得到所述设备后端适配的深度学习框架。采用本方法能够屏蔽了不同框架、版本和设备类型的差异,使设备能够快速、高效的完成深度学习框架适配和维护,简化和规范深度学习框架与设备后端的适配过程。
-
公开(公告)号:CN116820707A
公开(公告)日:2023-09-29
申请号:CN202310530972.0
申请日:2023-05-08
Abstract: 本发明公开了一种神经元计算机两阶段任务动态调度方法,包括:将新任务作为缓存任务存入缓存队列,依据新任务的预计执行时长、缓存队列的任务吞吐率以及正在执行队列的任务完成情况计算延迟调度的等待调度时长;当等待调度时长到达时,基于Johnson法则优化两阶段任务的最优调度求解策略对缓存队列进行求解得到延迟最优调度序列,并按照延迟最优调度序列将缓存任务添加到正在执行队列,这样在任务的动态调度中根据实时环境的变化延迟缓存不同时刻任务队列,在局部最优调度的基础上寻求全局最优,形成了快速响应反馈调度方式,有效解决了两阶段任务动态调度问题,提高了两阶段关联任务调度的可靠性。
-
公开(公告)号:CN116541177A
公开(公告)日:2023-08-04
申请号:CN202310669851.4
申请日:2023-06-07
Abstract: 本申请涉及一种神经元计算机节点负载均衡的方法、神经元计算机系统以及存储介质。所述方法包括:各节点上处理器核心的资源占用状态,生成各所述节点的资源动态特征矩阵;基于所述资源动态特征矩阵,获取各节点上与待部署应用所需资源格式相匹配的放置方案,并计算各所述放置方案的适应值;基于所述适应值,获取各所述节点的最大适应值,并计算对应的可分配系数;基于所述可分配系数,确定所述待部署应用的部署节点。采用本方法能够及时评估各节点负载情况并根据节点负载情况进行负载均衡决策,解决了现有技术中因负载信息描述不足而导致的节点负载均衡决策困难的问题,提高了神经元计算机系统的资源利用率以及负载均衡的可靠性。
-
公开(公告)号:CN119903882A
公开(公告)日:2025-04-29
申请号:CN202411994830.0
申请日:2024-12-31
IPC: G06N3/063
Abstract: 本申请涉及一种神经元计算机的芯片拓扑网络,包括:M行×N列的模组,每个模组由节点组成,每个节点由芯片组成;每个节点设置有节点控制器、数据控制器、信号控制器以及沿芯片列方向排布且与所在列芯片电连接的第一数据线、沿芯片行方向排布且与所在行芯片电连接的第二数据线和信号线,第一数据线与数据控制器相连,第二数据线和所述信号线与信号控制器连接;数据控制器将接收到的第一脉冲数据发送给对应的待同步芯片;信号控制器将接收到的第二脉冲数据发送给对应的待同步芯片,且响应于节点控制器发送的时间步同步信号,控制对应的待同步芯片进行时间步同步计算。本芯片拓扑网络,具备高可扩展性,同时能实现多模组芯片阵列高效的互联运行。
-
公开(公告)号:CN119479836A
公开(公告)日:2025-02-18
申请号:CN202510058985.1
申请日:2025-01-15
Applicant: 之江实验室
IPC: G16B50/10 , G16B40/00 , G06F18/22 , G06F18/2415 , G06F18/2431 , G06N3/045 , G06N3/08
Abstract: 本申请涉及一种基于预训练大语言模型的蛋白质功能注释方法和装置,应用于人工智能驱动的计算生物领域,其中,该蛋白质功能注释方法包括:将待注释蛋白质序列输入目标蛋白质功能域分类模型,得到待注释蛋白质序列所包含的功能域类别;将待注释蛋白质序列所包含的功能域类别和待注释蛋白质序列,输入目标蛋白质功能域识别模型,得到待注释蛋白质序列的功能域类别所在的目标位置;根据待注释蛋白质序列的功能域类别所在的目标位置,对待注释蛋白质序列进行功能注释。通过本申请,实现了准确且高效识别完整蛋白质序列上的功能域的效果。
-
公开(公告)号:CN119294454A
公开(公告)日:2025-01-10
申请号:CN202411824198.5
申请日:2024-12-12
Applicant: 之江实验室
Abstract: 本申请涉及一种人工智能加速卡异构集群适配方法、系统和存储介质,其中,该人工智能加速卡异构集群适配方法包括:获取根据训练框架提供的私有关键字注册的统一标准化适配模块;训练框架为异构集群模型的训练框架;在统一标准化适配模块中,通过工厂模式接入各异构加速卡的硬件层软件栈;通过插件形式扩展训练框架的计算任务分发机制,以使训练框架自主寻优目标异构加速卡;根据统一标准化适配模块所在的运行环境进行条件编译,以接入目标异构加速卡并用于训练框架自主寻优;根据统一测试模块验证统一标准化适配模块与各目标异构加速卡的适配状态,解决了人工智能加速卡异构集群适配开发成本大和无法自主寻优的问题。
-
公开(公告)号:CN119479836B
公开(公告)日:2025-05-06
申请号:CN202510058985.1
申请日:2025-01-15
Applicant: 之江实验室
IPC: G16B50/10 , G16B40/00 , G06F18/22 , G06F18/2415 , G06F18/2431 , G06N3/045 , G06N3/08
Abstract: 本申请涉及一种基于预训练大语言模型的蛋白质功能注释方法和装置,应用于人工智能驱动的计算生物领域,其中,该蛋白质功能注释方法包括:将待注释蛋白质序列输入目标蛋白质功能域分类模型,得到待注释蛋白质序列所包含的功能域类别;将待注释蛋白质序列所包含的功能域类别和待注释蛋白质序列,输入目标蛋白质功能域识别模型,得到待注释蛋白质序列的功能域类别所在的目标位置;根据待注释蛋白质序列的功能域类别所在的目标位置,对待注释蛋白质序列进行功能注释。通过本申请,实现了准确且高效识别完整蛋白质序列上的功能域的效果。
-
公开(公告)号:CN117170843A
公开(公告)日:2023-12-05
申请号:CN202311113941.1
申请日:2023-08-31
Abstract: 本发明公开了一种基于时间片的神经元计算机任务调度方法,应用于神经元计算机操作系统,包括:通过对任务运行进行动态特征提取,将任务所占资源划分为计算单元资源、运行模式资源、通讯资源和独立同步源资源;基于此,将神经元计算机硬件的计算切分为时间片分时运行以同时运行占用不同资源的任务,利用贪心算法求解可以运行最多任务数的时间片,从而提高硬件的并行计算效率,并且利用任务冲突频率特征来定向迁移任务,进一步提高了神经计算资源的利用率。本发明利用资源特征抽象化方法增强异构神经形态计算硬件的可适配性和运行多任务的能力,从而有效提高了多任务运行场景下的资源利用率。
-
公开(公告)号:CN116070682B
公开(公告)日:2023-08-15
申请号:CN202310354756.5
申请日:2023-04-06
Abstract: 本发明公开了神经元计算机操作系统的SNN模型动态映射方法及装置,通过根据节点之间连接关系、设置的初始解空间映射,以及输入、输出虚拟节点相对物理神经元拟态核边缘核心的位置,构建脉冲通信代价计算模型,计算前继节点与后继节点对应物理坐标间的距离,基于节点间的距离和对应的权重信息,得到脉冲通信代价;同时,基于初始解空间,通过贪心算法遍历逻辑神经元拟态核在不同空闲物理神经元拟态核时的脉冲通信代价,得到最小脉冲通信代价时,逻辑神经元拟态核与物理神经元拟态核的映射关系。从而解决了类脑硬件资源因碎片化而无法直接将模型的逻辑神经元拟态核相对位置一一映射到物理神经元拟态核的问题。
-
-
-
-
-
-
-
-
-