基于多数据文件的自适应并行输入方法及装置

    公开(公告)号:CN118689391A

    公开(公告)日:2024-09-24

    申请号:CN202410665776.9

    申请日:2024-05-27

    Applicant: 清华大学

    Abstract: 本申请涉及一种基于多数据文件的自适应并行输入方法及装置,其中,方法包括:获取目标并行应用程序的每个进程和每个待输入数据文件,并确定每个待输入数据文件的输入属性;根据输入属性确定每个待输入数据文件在每个进程上的并行输入调度信息,以通过并行输入调度信息读取每个待输入数据文件中时空数据信息;利用目标并行应用程序对每个进程进行并行剖分操作,以获取每个进程对应的并行剖分结果,基于并行剖分结果,将时空数据信息在每个进程中进行并行重分布操作,以建立每个进程的时空数据信息库。由此,解决了现有技术缺乏支撑数据同化的通用并行输入框架,无法支持空间和时间分布不均一的各类观测资料数据的高效输入等问题。

    一种并行通信路由建立方法及系统

    公开(公告)号:CN111367665A

    公开(公告)日:2020-07-03

    申请号:CN202010127096.3

    申请日:2020-02-28

    Applicant: 清华大学

    Abstract: 本发明提供一种并行通信路由建立方法及系统,该方法包括:发送端和接收端为相同网格建立所有网格点的全局索引,各进程基于网格点全局索引构建网格点局部-全局映射表;发送端/接收端对网格点局部-全局映射表中的各项在发送端/接收端所有进程之间进行并行排序;发送端与接收端的进程进行协作,并行建立发送端-接收端网格点映射关系表;发送端/接收端对发送端-接收端网格点映射关系表的各项在发送端/接收端的所有进程之间进行并行排序;发送端与接收端的各进程根据进程局部的发送端-接收端网格点映射关系表,生成各进程与对应接收端或发送端的进程的通信路由关系。本发明能快速建立数值程序间的并行通信路由关系,高效且具备并行可扩展性。

    一种并行通信路由建立方法及系统

    公开(公告)号:CN111367665B

    公开(公告)日:2020-12-18

    申请号:CN202010127096.3

    申请日:2020-02-28

    Applicant: 清华大学

    Abstract: 本发明提供一种并行通信路由建立方法及系统,该方法包括:发送端和接收端为相同网格建立所有网格点的全局索引,各进程基于网格点全局索引构建网格点局部‑全局映射表;发送端/接收端对网格点局部‑全局映射表中的各项在发送端/接收端所有进程之间进行并行排序;发送端与接收端的进程进行协作,并行建立发送端‑接收端网格点映射关系表;发送端/接收端对发送端‑接收端网格点映射关系表的各项在发送端/接收端的所有进程之间进行并行排序;发送端与接收端的各进程根据进程局部的发送端‑接收端网格点映射关系表,生成各进程与对应接收端或发送端的进程的通信路由关系。本发明能快速建立数值程序间的并行通信路由关系,高效且具备并行可扩展性。

    数值程序的数据处理系统

    公开(公告)号:CN113177329B

    公开(公告)日:2022-05-27

    申请号:CN202110567380.7

    申请日:2021-05-24

    Applicant: 清华大学

    Abstract: 本申请提供的一种数值程序的数据处理系统,包括:输入配置模块,用于获取输入配置信息;管理模块,至少用于基于所述第一配置信息注册所述第一存储网格;数据传递与多维插值管理模块,至少用于完成M个I/O进程与所述数值程序的N个计算进程之间的数据传递;数据并行输入驱动模块,用于基于所述第二配置信息建立所述第一存储网格在所述M个I/O进程的并行剖分,并操作所述M个I/O进程从第一文件中读入变量对应的输入数据,在所述第一存储网格与所述变量的第一计算网格相同时,调用所述数据传递与多维插值管理模块使所述M个I/O进程将所述输入数据发送给N个计算进程,以将所述输入数据并行输入至所述变量。

    网格数据分布式存储服务系统、方法、装置、设备及介质

    公开(公告)号:CN113157806A

    公开(公告)日:2021-07-23

    申请号:CN202110417353.1

    申请日:2021-04-19

    Applicant: 清华大学

    Abstract: 本发明提供一种网格数据分布式存储服务方法、装置、设备及介质,该方法包括:基于并行剖分的原则,将网格数据分散存储到各进程的内存中,构建网格在一组进程的分布式存储;根据网格上已有分布式存储中源并行剖分,对网格数据进行重分布,构建网格上与所述源并行剖分对应的目标并行剖分的分布式存储;根据所述网格在一组进程的分布式存储及所述目标并行剖分的分布式存储,构建分布式存储服务模型;根据所述分布式存储服务模型,执行服务功能;可以有效降低网格数据在一个进程上的运行内存,提升计算机的计算处理能力,解决耦合模式等数值程序发展和应用中面临的存储大规模网格的性能瓶颈。

    基于正向通信的自动反向通信方法及装置

    公开(公告)号:CN118585350A

    公开(公告)日:2024-09-03

    申请号:CN202410701401.3

    申请日:2024-05-31

    Applicant: 清华大学

    Abstract: 本申请涉及一种基于正向通信的自动反向通信方法及装置,其中,方法包括:获取目标应用程序中参与已有正向通信的每个进程,并确定每个进程间至少一个正向数据通信关系;确定每个正向数据通信关系的通信编号,建立反向数据接收缓冲区,且构建反向数据接收缓冲区中每个格点对应的第一关键字,以记录反向数据接收缓冲区中每个格点与已有正向通信中每个来源格点的映射关系;获取已有正向通信中每个目的格点的第二关键字,并结合反向数据接收缓冲区和映射关系,执行每个目的格点至每个来源格点的反向通信操作。由此,解决了现有技术无法有效存留多源数据,难以进行四维变分同化的反向计算,无法直接使用通用并行框架自动构建正向通信的反向过程等问题。

    网格数据分布式存储服务系统、方法、装置、设备及介质

    公开(公告)号:CN113157806B

    公开(公告)日:2022-05-24

    申请号:CN202110417353.1

    申请日:2021-04-19

    Applicant: 清华大学

    Abstract: 本发明提供一种网格数据分布式存储服务方法、装置、设备及介质,该方法包括:基于并行剖分的原则,将网格数据分散存储到各进程的内存中,构建网格在一组进程的分布式存储;根据网格上已有分布式存储中源并行剖分,对网格数据进行重分布,构建网格上与所述源并行剖分对应的目标并行剖分的分布式存储;根据所述网格在一组进程的分布式存储及所述目标并行剖分的分布式存储,构建分布式存储服务模型;根据所述分布式存储服务模型,执行服务功能;可以有效降低网格数据在一个进程上的运行内存,提升计算机的计算处理能力,解决耦合模式等数值程序发展和应用中面临的存储大规模网格的性能瓶颈。

    数值程序的数据处理系统

    公开(公告)号:CN113177329A

    公开(公告)日:2021-07-27

    申请号:CN202110567380.7

    申请日:2021-05-24

    Applicant: 清华大学

    Abstract: 本申请提供的一种数值程序的数据处理系统,包括:输入配置模块,用于获取输入配置信息;管理模块,至少用于基于所述第一配置信息注册所述第一存储网格;数据传递与多维插值管理模块,至少用于完成M个I/O进程与所述数值程序的N个计算进程之间的数据传递;数据并行输入驱动模块,用于基于所述第二配置信息建立所述第一存储网格在所述M个I/O进程的并行剖分,并操作所述M个I/O进程从第一文件中读入变量对应的输入数据,在所述第一存储网格与所述变量的第一计算网格相同时,调用所述数据传递与多维插值管理模块使所述M个I/O进程将所述输入数据发送给N个计算进程,以将所述输入数据并行输入至所述变量。

Patent Agency Ranking