-
公开(公告)号：CN102137402A
公开(公告)日：2011-07-27
申请号：CN201110106905.3
申请日：2011-04-27
Applicant: 北京大学
Abstract: 本发明提供了一种基于道路车辆网络的多信道分配方法，属于计算机无线通讯和移动网络技术领域。该方法包括：根据可用的信道数确定划分数；根据车辆通讯半径的大小确定划分路段的长度；以一个划分单位相交错的方式划分路段；按照规则对每个划分好的路段进行信道的分配；对道路的交叉口和形成环形的道路分别进行相应的特殊处理。本发明从车辆网络中道路约束这个角度出发，将车辆网络中的多信道分配问题由动态的二维空间的问题转化为静态的一维空间为主的问题，大大降低了问题的复杂性，并达到降低干扰、降低通信开销及保持网络连通性的优良性能。
-
公开(公告)号：CN101051874A
公开(公告)日：2007-10-10
申请号：CN200710099382.8
申请日：2007-05-18
Applicant: 北京大学
Abstract: 本发明公开了一种仿真移动自组织网络的方法，属于移动自组织网络技术。该方法利用应用－接口分离技术，将被仿真节点与实验节点映射关系固定，实验节点根据该节点映射关系对应用程序的数据包进行调度，实现移动自组织网络的仿真。本发明将采样时刻的节点映射关系部署在仿真平台中的不同无线节点上，保持了移动自组织网络中应用分布运行的特点，同时将该技术与射频信号衰减控制相结合，可获得对移动自组织网络中无线链路传输特性和节点移动两大特点的高仿真有效性，既保证了较好的无线链路传输特性仿真有效性，又降低了部署成本。
-
公开(公告)号：CN117932330A
公开(公告)日：2024-04-26
申请号：CN202311700419.3
申请日：2023-12-12
Applicant: 北京大学
IPC: G06F18/214 , G06F18/2321 , G06N3/04 , G06N3/084
Abstract: 本发明涉及一种基于局部敏感哈希算法的混合专家模型加速方法和系统。该方法在混合专家模型的训练过程和/或推理过程中，采用局部敏感哈希算法对数据进行聚类，得到聚类中心，利用聚类中心进行All‑To‑All通信和专家计算，以降低通信量和计算量。本发明提出的技术方案的加速效果优于传统的优化手段，例如层次化通信和计算通信重叠技术，这些现有技术采用系统优化的手段，在低带宽集群中加速效果不明显。本发明的技术方案利用了数据的相似性，从算法优化的方面降低了通信量，从而降低了通信时间。本发明提出的技术方案可以支持任意形式的混合专家模型。
-
公开(公告)号：CN110929884A
公开(公告)日：2020-03-27
申请号：CN201911156466.X
申请日：2019-11-22
Applicant: 北京大学
IPC: G06N20/00
Abstract: 本发明公布了一种列划分的分布式机器学习优化的分类方法和装置，采用基于列划分的分布式随机梯度下降SGD方法，称为ColumnSGD，对多维度序列数据进行分类；所述多维度序列数据包括基因序列数据；所述ColumnSGD方法包括：建立分布式机器学习系统的容错机制、建立基于列划分的分布式SGD模型，通过采用将行划分数据转换为列划分数据的高效算法，并基于梯度编码提出模型掉队者问题的解决方法，实现高效分类。本发明通过采用基于列划分的结构，利用列式划分特性、分布式特性，计算模型梯度；能减少分布式机器学习系统的通讯开销及存储开销，提高计算速度，从而提高分类的效率。
-
公开(公告)号：CN102137402B
公开(公告)日：2013-09-18
申请号：CN201110106905.3
申请日：2011-04-27
Applicant: 北京大学
Abstract: 本发明提供了一种基于道路车辆网络的多信道分配方法，属于计算机无线通讯和移动网络技术领域。该方法包括：根据可用的信道数确定划分数；根据车辆通讯半径的大小确定划分路段的长度；以一个划分单位相交错的方式划分路段；按照规则对每个划分好的路段进行信道的分配；对道路的交叉口和形成环形的道路分别进行相应的特殊处理。本发明从车辆网络中道路约束这个角度出发，将车辆网络中的多信道分配问题由动态的二维空间的问题转化为静态的一维空间为主的问题，大大降低了问题的复杂性，并达到降低干扰、降低通信开销及保持网络连通性的优良性能。
-
Patent Agency Ranking
公开(公告)号：CN102196602B
公开(公告)日：2013-07-31
申请号：CN201110106830.9
申请日：2011-04-27
Applicant: 北京大学
IPC: H04W84/18
Abstract: 本发明提供了一种应用于车辆自组织网络的实时数据融合算法，属于车辆无线自组织网络领域。该算法包括：为每辆负责信息感知和分发的车辆建立以自己为中心的实时信息动态网格结构，该网格结构是对实际地图的一个划分，具有越远的区域划分面积越大的特点；车辆周期性向邻居广播自己的动态网格结构使得道路信息向远处传播；车辆在运行过程中根据感知到的信息修改动态网格结构；车辆收到邻居网格结构后根据合并算法修改自己的动态网格结构。本发明降低了远距离区域的路况精度，从而减少了带宽消耗，并且具有较高的计算效率。
-
公开(公告)号：CN119886324A
公开(公告)日：2025-04-25
申请号：CN202411752047.3
申请日：2024-12-02
Applicant: 北京大学
IPC: G06N5/04 , G06N3/0455 , G06N3/084
Abstract: 本发明公开一种面向异构序列负载的灵活大模型训练方法及系统，属于大模型技术领域。所述方法包括：将一个训练数据批次划分为若干微批次；其中，一个训练数据批次由若干个序列组成；对于每一微批次，通过最小化该微批次的最大执行时间，将该微批次中的序列分配到不同SP组，以生成最优序列并行策略；基于该最优序列并行策略，在大模型上执行该微批次的训练，并将反向传播得到的梯度进行累加，以更新大模型参数。本发明可以根据实际训练时实时的工作负载的序列长度情况，求解最优的序列并行方案，减少高的序列并行度带来的低效的跨节点通信，提高大模型在长序列场景下训练的效率。
-
公开(公告)号：CN119558371A
公开(公告)日：2025-03-04
申请号：CN202411501855.2
申请日：2024-10-25
Applicant: 北京大学
IPC: G06N3/08 , G06N3/063 , G06N3/0455 , G06F9/50
Abstract: 本发明公开一种支持并行热切换的大模型训练方法及系统，属于大模型训练技术领域。所述方法包括：生成一逻辑计算图，所述逻辑计算图用于表示多组不同的并行策略组合；编译所述逻辑计算图，生成多个可执行计算图；其中，每一个可执行计算图对应一组并行策略组合；在多个可执行计算图中选取用于初始化大模型状态的初始化图，并根据任两组并行策略组合之间热切换代价，编排可执行计算图之间的执行顺序；基于所述初始化图以及可执行计算图之间的执行顺序进行大模型的训练。本发明不仅可以保证每个分组内的序列计算量/工作负载大致接近，还可以使得并行策略能够在模型训练过程中动态地切换，并正常完成模型的梯度累积和更新。
-
公开(公告)号：CN102196602A
公开(公告)日：2011-09-21
申请号：CN201110106830.9
申请日：2011-04-27
Applicant: 北京大学
IPC: H04W84/18
Abstract: 本发明提供了一种应用于车辆自组织网络的实时数据融合算法，属于车辆无线自组织网络领域。该算法包括：为每辆负责信息感知和分发的车辆建立以自己为中心的实时信息动态网格结构，该网格结构是对实际地图的一个划分，具有越远的区域划分面积越大的特点；车辆周期性向邻居广播自己的动态网格结构使得道路信息向远处传播；车辆在运行过程中根据感知到的信息修改动态网格结构；车辆收到邻居网格结构后根据合并算法修改自己的动态网格结构。本发明降低了远距离区域的路况精度，从而减少了带宽消耗，并且具有较高的计算效率。
-
公开(公告)号：CN119576488A
公开(公告)日：2025-03-07
申请号：CN202411520260.1
申请日：2024-10-29
Applicant: 北京大学
Abstract: 本发明公开了一种基于量化的多任务大语言模型服务系统。本系统包括动态多任务量化模块和多任务请求调度模块；其中动态多任务量化模块用来对部署的模型进行初始多任务联合量化并部署，当后续有新任务需要被引入时，该模块也负责对模型进行重量化；请求池用来缓存各种客户端发来的请求，并交予后续的多任务请求调度模块；多任务请求调度模块对多任务的请求进行调度编排；每当多任务请求调度模块给出一组输入，与现有服务系统类似，将该输入送入推理流程进行处理，获得对应输出的预测值并解码，解码得到的词元则会被流式输出、并被返回给调度模块，等待进行下一轮调度。本发明具有更高的可用性、更好的可扩展性和更优秀的用户体验。
-
-
-
-
-
-
-
-
-
Search Results
13
records
(took 0.017 seconds)
