数据处理方法和系统
    3.
    发明授权

    公开(公告)号:CN111385327B

    公开(公告)日:2022-06-14

    申请号:CN201811628317.4

    申请日:2018-12-28

    IPC分类号: H04L67/1097 G06F12/0817

    摘要: 本申请公开了一种数据处理方法和系统。其中,该方法包括:第一数据节点发送第一消息至第二数据节点,其中,第一消息用于表征第一数据节点中存在访问频率和访问流量满足第一预设条件的目标数据块;第一数据节点接收第二数据节点返回的第二消息,其中,第二消息用于表征存储有目标数据块的数据副本的目标数据节点;第一数据节点发送第二消息至客户端,其中,客户端访问第一数据节点或目标数据节点中存储的目标数据块。本申请解决了相关技术中的数据处理方法无法动态调整分布式存储系统中的资源的技术问题。

    一种元数据迁移方法、装置、系统及设备

    公开(公告)号:CN108228672B

    公开(公告)日:2022-05-03

    申请号:CN201611199032.4

    申请日:2016-12-22

    IPC分类号: G06F16/11 G06F16/182 G06F9/50

    摘要: 本申请实施例公开了一种元数据迁移方法、装置、系统及设备,该方法包括:确定待迁移目录中的待迁移条目;根据所述待迁移条目所对应的数据块数量,生成迁移任务,为所述迁移任务划分所述待迁移条目;将所述迁移任务分配至执行服务器以对所述待迁移条目进行元数据迁移。利用本申请实施例,可以实现待迁移条目在各个迁移任务中的均衡分布,从而避免出现可能分配到很大数据量的迁移任务的执行服务器,可以缩短执行服务器完成迁移任务需要耗费的时间,从而可以提高元数据迁移的整体工作效率。

    数据处理方法和系统
    7.
    发明公开

    公开(公告)号:CN111385327A

    公开(公告)日:2020-07-07

    申请号:CN201811628317.4

    申请日:2018-12-28

    IPC分类号: H04L29/08 G06F12/0817

    摘要: 本申请公开了一种数据处理方法和系统。其中,该方法包括:第一数据节点发送第一消息至第二数据节点,其中,第一消息用于表征第一数据节点中存在访问频率和访问流量满足第一预设条件的目标数据块;第一数据节点接收第二数据节点返回的第二消息,其中,第二消息用于表征存储有目标数据块的数据副本的目标数据节点;第一数据节点发送第二消息至客户端,其中,客户端访问第一数据节点或目标数据节点中存储的目标数据块。本申请解决了相关技术中的数据处理方法无法动态调整分布式存储系统中的资源的技术问题。

    一种元数据迁移方法、装置、系统及设备

    公开(公告)号:CN108228672A

    公开(公告)日:2018-06-29

    申请号:CN201611199032.4

    申请日:2016-12-22

    IPC分类号: G06F17/30 G06F9/50

    CPC分类号: G06F9/48 G06F9/50 G06F17/30

    摘要: 本申请实施例公开了一种元数据迁移方法、装置、系统及设备,该方法包括:确定待迁移目录中的待迁移条目;根据所述待迁移条目所对应的数据块数量,生成迁移任务,为所述迁移任务划分所述待迁移条目;将所述迁移任务分配至执行服务器以对所述待迁移条目进行元数据迁移。利用本申请实施例,可以实现待迁移条目在各个迁移任务中的均衡分布,从而避免出现可能分配到很大数据量的迁移任务的执行服务器,可以缩短执行服务器完成迁移任务需要耗费的时间,从而可以提高元数据迁移的整体工作效率。

    一种数据处理方法、装置及计算设备

    公开(公告)号:CN111694808B

    公开(公告)日:2023-12-29

    申请号:CN201910197350.4

    申请日:2019-03-15

    IPC分类号: G06F16/182 G06F16/16

    摘要: 本发明实施例公开了一种数据处理方法,应用于分布式文件系统,该方法包括:为分布式文件系统的主节点所存储的第一目录结构的第一目录节点生成标识信息,该标识信息用于在第一目录结构中唯一标识第一目录节点对应的目录或者文件;生成指示对第一目录结构进行转换的第一操作日志,分布式文件系统的备用节点基于第一操作日志,为备用节点所存储的第二目录结构的第二目录节点生成标识信息,第二目录结构为第一目录结构的副本,第二目录节点的标识信息与对应第一目录节点的标识信息相同。本发明实施例还公开了相应的数据处理装置、系统和计算设备。

    一种数据处理方法、装置及计算设备

    公开(公告)号:CN111694808A

    公开(公告)日:2020-09-22

    申请号:CN201910197350.4

    申请日:2019-03-15

    IPC分类号: G06F16/182 G06F16/16

    摘要: 本发明实施例公开了一种数据处理方法,应用于分布式文件系统,该方法包括:为分布式文件系统的主节点所存储的第一目录结构的第一目录节点生成标识信息,该标识信息用于在第一目录结构中唯一标识第一目录节点对应的目录或者文件;生成指示对第一目录结构进行转换的第一操作日志,分布式文件系统的备用节点基于第一操作日志,为备用节点所存储的第二目录结构的第二目录节点生成标识信息,第二目录结构为第一目录结构的副本,第二目录节点的标识信息与对应第一目录节点的标识信息相同。本发明实施例还公开了相应的数据处理装置、系统和计算设备。