公开(公告)号：CN118012351A

公开(公告)日：2024-05-10

申请号：CN202410216517.8

申请日：2024-02-27

Applicant: 清华大学

Inventor： 陆游游 ,  曾少勋

IPC: G06F3/06 ,  G06F9/54 ,  G06F9/50

Abstract: 本申请提供一种基于远程存储协议的数据读写保序方法、装置、电子设备及存储介质，涉及计算机技术领域，该方法包括：接收客户端基于远程存储协议发送的数据请求；数据请求包括：一个读请求和一个写请求，以及读写顺序信息；读写顺序信息用于指示读请求和写请求的执行顺序；按照读写顺序执行读请求和写请求，并在写请求执行完成后，将读请求获取到的数据发送至客户端。本申请提供的基于远程存储协议的数据读写保序方法、装置、电子设备及存储介质，用于提高数据读写的并行性和降低数据读写的延迟。

公开(公告)号：CN119578547A

公开(公告)日：2025-03-07

申请号：CN202411649030.5

申请日：2024-11-18

Applicant: 清华大学

Inventor： 陆游游 ,  曾少勋

IPC: G06N5/04 ,  G06F9/445 ,  G06F9/50

Abstract: 本公开提供一种模型的推理方法、装置、存储介质和计算机设备。所述方法包括：获取预先存储的目标模型的分配表和地址恢复表；其中，分配表是目标模型用于记录目标模型在预处理过程中捕获的计算图中节点对应的执行顺序，所述地址恢复表是根据所述计算图构建的内核与参数的映射关系表；根据所述分配表中的执行顺序，查询地址恢复表，得到计算图中节点的地址信息，所述地址信息包括每个节点的内核地址和参数地址；根据每个节点的地址信息，恢复所述目标模型在推理过程中的计算图；基于所述计算图，执行目标模型的推理计算。使模型可以根据计算图进行推理，避免了模型在推理时重新捕获算子图，减小了模型冷启动的时间延迟，提高了模型冷启动的效率。

公开(公告)号：CN118153711A

公开(公告)日：2024-06-07

申请号：CN202410302871.2

申请日：2024-03-15

Applicant: 清华大学

Inventor： 陆游游 ,  曾少勋

IPC: G06N20/00 ,  G06F18/214

Abstract: 本发明公开了一种模型检查点保存方法、装置、设备及存储介质。所述方法应用于训练端，包括：在确定需要保存目标模型检查点的情况下，将所述目标模型当前的模型训练参数传输到本地预设存储空间；在将所述目标模型当前的模型训练参数传输到本地预设存储空间的过程中，开始监测预设传输条件是否被满足；所述监测至少持续到所述目标模型当前的模型训练参数成功传输到存储端；在监测到所述预设传输条件被满足的情况下，针对所述本地预设存储空间中，未传输到存储端的模型训练参数，确定出一组待传输参数传输到存储端；所述存储端用于：根据接收到的模型训练参数，保存目标模型检查点。

公开(公告)号：CN116319726A

公开(公告)日：2023-06-23

申请号：CN202310215700.1

申请日：2023-02-28

Applicant: 清华大学

Inventor： 陆游游 ,  舒继武 ,  曾少勋

IPC: H04L67/025 ,  H04L12/54

Abstract: 本申请提供一种基于远程存储协议的数据处理方法、装置、设备及介质。该方法包括：接收处理请求，其中，处理请求用于指示对待处理数据进行存入操作或取出操作；根据预设远程存储协议对处理请求进行序列化处理，得到序列化后的处理请求，其中，预设远程存储协议用于表征远程存储的请求中包括对象存储语义；将序列化后的处理请求发送至服务端；其中，序列化后的处理请求用于指示解析待处理数据的对象存储语义后得到待处理数据的位置信息，待处理数据的位置信息用于基于待处理数据的位置信息对待处理数据执行处理请求对应的操作，以得到处理结果；接收服务端反馈的处理结果，并输出处理结果。本申请的方法，提升了数据存取效率。