任务调度方法、系统及相关设备
    71.
    发明公开

    公开(公告)号:CN118484281A

    公开(公告)日:2024-08-13

    申请号:CN202410653678.3

    申请日:2024-05-22

    申请人: 鹏城实验室

    发明人: 袁进成 王杰 张伟

    摘要: 本申请公开了一种任务调度方法、系统及相关设备,涉及计算节点集群技术领域。管理节点在开始时分别为每个节点标识与第一数目的引导信息建立映射关系,相当于给各个工作节点分配第一数目的待处理任务,而接收到由工作节点发送的任务分配请求后,根据未执行数量与任务总数量之间的剩余比例确定第二数目,为该工作节点与第二数目的引导信息建立映射关系,相当于给发出任务分配请求的工作节点分配第二数目的待处理任务,且第二数目小于或等于第一数目,如此,实现了依据待处理任务的未执行数量与任务总数量之间的剩余比例进行动态分配任务,提高计算效率,且工作节点从并行文件管理系统获取待处理任务,能够降低网络负载。

    一种基于GPU的timing Lib文件异步并行读取方法

    公开(公告)号:CN118227561B

    公开(公告)日:2024-08-13

    申请号:CN202410642908.6

    申请日:2024-05-23

    摘要: 一种基于GPU的异步并行读取timing Lib文件方法,用于静态时序分析中的timing Lib文件读取,包括:确定线程池中线程读取器的数量,并使用线程池管理线程读取器;将文件数据映射到主机内存;在主机内存中预分配GPU内存池,动态分配和回收内存块,并管理GPU内存;利用DMA引擎,将主机内存中映射的文件数据传输到动态分配的GPU内存的内存块中;使用流水线内核并行处理数据;利用DMA引擎,将处理结果异步返回到主机内存。本申请的基于GPU的异步并行读取timing Lib文件方法,显著提高了静态时序分析中timing Lib文件读取速度,减少内存占用。

    一种异步目录操作方法、装置、设备和系统

    公开(公告)号:CN112612751B

    公开(公告)日:2024-08-13

    申请号:CN202011568284.6

    申请日:2020-12-25

    发明人: 薛亚茅

    IPC分类号: G06F16/11 G06F16/13

    摘要: 本申请提供了一种异步目录操作方法、装置、设备和系统,该方法包括:从元数据服务器预分配的索引节点链表中获取索引节点对应的索引节点信息;发送异步操作请求至元数据服务器,同时根据索引节点信息执行目录操作;阻塞索引节点的元数据操作,且当元数据服务器的目录操作完成后,解除阻塞。本申请中元数据服务器提供给客户端设备一个预分配的索引节点链表,客户端设备通过该索引节点链表获取父目录的操作权限,当客户端设备向元数据服务器发起异步操作请求时,不等待元数据服务器的应答,直接执行目录操作,等待元数据服务器响应的目录操作完成,解除索引节点的元数据操作的阻塞,减少了目录操作的时间开销,提高了目录操作的效率。

    一种CR2文件修复方法及系统
    74.
    发明公开

    公开(公告)号:CN118467248A

    公开(公告)日:2024-08-09

    申请号:CN202410672338.5

    申请日:2024-05-28

    发明人: 刘佳学

    IPC分类号: G06F11/14 G06F16/16 G06F16/13

    摘要: 本发明公开了一种CR2文件修复方法及系统,该方法包括读取待修复CR2文件的文件头信息,获取CR2文件数据存储的字节序以及IFD0目录地址;定位至IFD0目录并对IFD0目录结构信息进行读取,获取IFDO目录的关键项信息以及IFD1目录地址;根据IFD1目录结构信息定位IFD2目录;根据IFD2目录结构信息定位IFD3目录;读取IFD3目录中的关键项信息、真实图片数据的偏移和大小;将文件头信息、IFD0目录及其关键项信息、IFD1目录、IFD2目录、IFD3目录及其关键项信息、真实图片数据进行重组获得修复后的CR2文件。本发明无需同源参考文件,只需要从原始待修复文件中推算并读取相关信息即可。在使用上更加的方便,快捷,适用于文件数据缺损不大的CR2文件的快速修复。

    文件处理方法、装置及存储介质

    公开(公告)号:CN114860655B

    公开(公告)日:2024-08-09

    申请号:CN202210283907.8

    申请日:2022-03-21

    发明人: 张伟 朱凌宇

    摘要: 本申请提供一种文件处理方法、装置及存储介质,应用于高性能计算、AI及大数据领域,包括:第一节点获取待处理的第一文件全局唯一标识;当第一节点确定二级目录中包括第一文件全局唯一标识时,第一节点在本地获取第一文件全局唯一标识对应的文件;或者,当第一节点确定二级目录中不包括第一文件全局唯一标识且一级目录中包括第一文件全局唯一标识时,第一节点在一级目录中获取第二节点的地址;第一节点根据第二节点的地址从第二节点获取第一文件全局唯一标识对应的文件。这样,将计算节点的本地存储空间构建为附加的弹性缓存池,扩展了集群系统的容量上限,提升了文件存储系统的服务能力。

    基于数据持久化的消息数据处理方法、装置及设备

    公开(公告)号:CN118093522B

    公开(公告)日:2024-08-06

    申请号:CN202410479666.3

    申请日:2024-04-22

    摘要: 本发明公开了基于数据持久化的消息数据处理方法、装置及设备,方法包括:获取与消息写入指令相对应的待处理消息;基于第一预设数据处理策略获取与待处理消息对应的消息类型、分区号、消息数据大小、消息校验码和消息体,获取当前可写入消息记录文件以写入待处理消息的相应数据,并更新当前可写入消息记录文件;基于第二预设数据处理策略获取与待处理消息对应的消息物理偏移量、消息数据大小和消息接收时间,获取当前可写入索引文件以写入待处理消息的相应数据,并更新当前可写入索引文件。本发明实施例能对交易系统产生的业务数据结合消息记录文件和索引文件持久化写入,无需引入消息中间件,降低运维成本,还能对存储的消息进行便捷推送操作。

    操作系统的授权管控方法、装置、电子设备、存储介质及程序产品

    公开(公告)号:CN118427162A

    公开(公告)日:2024-08-02

    申请号:CN202410893429.1

    申请日:2024-07-04

    发明人: 王博 季宗耀 孟杰

    IPC分类号: G06F16/13 G06F16/11 G06F21/44

    摘要: 本公开关于一种操作系统的授权管控方法、装置、电子设备、存储介质及程序产品,该方法包括:将目标数据仓库的身份验证信息设置为自定义身份变量,自定义身份变量保存于指定目录下的自定义变量目录下;获取第一目录路径,第一目录路径用于描述自定义变量目录在文件系统中的位置;对第一目录路径进行修正,以去除第一目录路径中对应于第二目录路径的部分,得到修正后的第一目录路径,第二目录路径用于描述指定目录在文件系统中的位置;根据修正后的第一目录路径,在指定目录下读取自定义身份变量的取值;向目标数据仓库的服务端发送包含自定义身份变量的取值的目标请求,以供服务端执行身份验证。本公开可实现有效且简便的身份验证。

    一种分布式文件系统与目录操作方法

    公开(公告)号:CN118427161A

    公开(公告)日:2024-08-02

    申请号:CN202410892655.8

    申请日:2024-07-04

    发明人: 文刘飞 唐辉 陈坚

    IPC分类号: G06F16/13 G06F16/182

    摘要: 一种分布式文件系统与目录操作方法,用于存储写入或读取文件,包括目录索引逻辑分层、文件分块对象存储逻辑分层;目录索引逻辑分层中存储目录索引信息、文件索引信息;文件或文件分片数据存放在所述目录索引指向的文件分块对象存储逻辑分层中;目录索引逻辑分层用Key‑Value存储机制,存储所述目录索引信息、文件索引信息。将分布式文件系统,分成目录索引逻辑分层、文件分块对象存储逻辑分层,用Key‑Value存储机制标识目录与文件索引信息,用组合键Key来标识目录树结构信息,使得树形的目录结构方便存储与索引,大幅度降低系统复杂度,支持海量文件存储的同时,提升了系统运行效率。

    小文件管理方法、电子设备及存储装置

    公开(公告)号:CN111984605B

    公开(公告)日:2024-08-02

    申请号:CN202010673889.5

    申请日:2020-07-14

    发明人: 李青青 罗心

    摘要: 本申请公开了一种小文件管理方法、存储服务器及存储装置。其中,小文件管理方法包括:响应于来自终端的包含待写入小文件的写请求,在当前可写入的第一大文件中为待写入小文件分配写入地址;基于待写入小文件的写入信息,生成待写入小文件的索引信息和读取地址;其中,写入信息至少包括写入地址,索引信息用于在读取小文件时进行验证,并在验证通过时允许读取对应小文件;按照待写入小文件的写入地址,将待写入小文件和索引信息写入第一大文件中。上述方案,能够拒绝掉一些非法的请求、屏蔽掉数据暴露的风险,提高小文件读写的安全性和可靠性。