-
公开(公告)号:CN111427860B
公开(公告)日:2023-05-02
申请号:CN201910020649.2
申请日:2019-01-09
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F16/182 , G06F21/60 , G06F21/62
摘要: 本申请公开了一种分布式存储系统及其数据处理方法。其中,该方法包括:客户端获取写操作对应的数据和密钥信息;客户端基于密钥信息对写操作对应的数据进行加密,得到加密数据;客户端将加密数据发送至数据存储节点。本申请解决了相关技术中的分布式存储系统的数据处理方法处理效率低且占用内存大的技术问题。
-
公开(公告)号:CN108319618A
公开(公告)日:2018-07-24
申请号:CN201710036337.1
申请日:2017-01-17
申请人: 阿里巴巴集团控股有限公司
摘要: 一种分布式存储系统的数据分布控制方法、系统及装置,分布控制系统从分布式存储系统提供的多种分布策略中确定第一数据采用的分布策略,所述多种分布策略包括跨容错域分布的策略和在一个容错域内分布的策略;然后根据采用的所述分布策略和分布式存储系统的拓扑关系,为所述第一数据分配容错域并进行数据写入。本申请增加了数据的分布属性设置,可以适应数据的差异性要求。
-
公开(公告)号:CN111385327B
公开(公告)日:2022-06-14
申请号:CN201811628317.4
申请日:2018-12-28
申请人: 阿里巴巴集团控股有限公司
IPC分类号: H04L67/1097 , G06F12/0817
摘要: 本申请公开了一种数据处理方法和系统。其中,该方法包括:第一数据节点发送第一消息至第二数据节点,其中,第一消息用于表征第一数据节点中存在访问频率和访问流量满足第一预设条件的目标数据块;第一数据节点接收第二数据节点返回的第二消息,其中,第二消息用于表征存储有目标数据块的数据副本的目标数据节点;第一数据节点发送第二消息至客户端,其中,客户端访问第一数据节点或目标数据节点中存储的目标数据块。本申请解决了相关技术中的数据处理方法无法动态调整分布式存储系统中的资源的技术问题。
-
公开(公告)号:CN111427860A
公开(公告)日:2020-07-17
申请号:CN201910020649.2
申请日:2019-01-09
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F16/182 , G06F21/60 , G06F21/62
摘要: 本申请公开了一种分布式存储系统及其数据处理方法。其中,该方法包括:客户端获取写操作对应的数据和密钥信息;客户端基于密钥信息对写操作对应的数据进行加密,得到加密数据;客户端将加密数据发送至数据存储节点。本申请解决了相关技术中的分布式存储系统的数据处理方法处理效率低且占用内存大的技术问题。
-
公开(公告)号:CN108319618B
公开(公告)日:2022-05-06
申请号:CN201710036337.1
申请日:2017-01-17
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F16/27 , G06F16/182 , H04L67/1097
摘要: 一种分布式存储系统的数据分布控制方法、系统及装置,分布控制系统从分布式存储系统提供的多种分布策略中确定第一数据采用的分布策略,所述多种分布策略包括跨容错域分布的策略和在一个容错域内分布的策略;然后根据采用的所述分布策略和分布式存储系统的拓扑关系,为所述第一数据分配容错域并进行数据写入。本申请增加了数据的分布属性设置,可以适应数据的差异性要求。
-
公开(公告)号:CN108228672B
公开(公告)日:2022-05-03
申请号:CN201611199032.4
申请日:2016-12-22
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F16/11 , G06F16/182 , G06F9/50
摘要: 本申请实施例公开了一种元数据迁移方法、装置、系统及设备,该方法包括:确定待迁移目录中的待迁移条目;根据所述待迁移条目所对应的数据块数量,生成迁移任务,为所述迁移任务划分所述待迁移条目;将所述迁移任务分配至执行服务器以对所述待迁移条目进行元数据迁移。利用本申请实施例,可以实现待迁移条目在各个迁移任务中的均衡分布,从而避免出现可能分配到很大数据量的迁移任务的执行服务器,可以缩短执行服务器完成迁移任务需要耗费的时间,从而可以提高元数据迁移的整体工作效率。
-
公开(公告)号:CN111385327A
公开(公告)日:2020-07-07
申请号:CN201811628317.4
申请日:2018-12-28
申请人: 阿里巴巴集团控股有限公司
IPC分类号: H04L29/08 , G06F12/0817
摘要: 本申请公开了一种数据处理方法和系统。其中,该方法包括:第一数据节点发送第一消息至第二数据节点,其中,第一消息用于表征第一数据节点中存在访问频率和访问流量满足第一预设条件的目标数据块;第一数据节点接收第二数据节点返回的第二消息,其中,第二消息用于表征存储有目标数据块的数据副本的目标数据节点;第一数据节点发送第二消息至客户端,其中,客户端访问第一数据节点或目标数据节点中存储的目标数据块。本申请解决了相关技术中的数据处理方法无法动态调整分布式存储系统中的资源的技术问题。
-
公开(公告)号:CN108228672A
公开(公告)日:2018-06-29
申请号:CN201611199032.4
申请日:2016-12-22
申请人: 阿里巴巴集团控股有限公司
摘要: 本申请实施例公开了一种元数据迁移方法、装置、系统及设备,该方法包括:确定待迁移目录中的待迁移条目;根据所述待迁移条目所对应的数据块数量,生成迁移任务,为所述迁移任务划分所述待迁移条目;将所述迁移任务分配至执行服务器以对所述待迁移条目进行元数据迁移。利用本申请实施例,可以实现待迁移条目在各个迁移任务中的均衡分布,从而避免出现可能分配到很大数据量的迁移任务的执行服务器,可以缩短执行服务器完成迁移任务需要耗费的时间,从而可以提高元数据迁移的整体工作效率。
-
公开(公告)号:CN111694808B
公开(公告)日:2023-12-29
申请号:CN201910197350.4
申请日:2019-03-15
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F16/182 , G06F16/16
摘要: 本发明实施例公开了一种数据处理方法,应用于分布式文件系统,该方法包括:为分布式文件系统的主节点所存储的第一目录结构的第一目录节点生成标识信息,该标识信息用于在第一目录结构中唯一标识第一目录节点对应的目录或者文件;生成指示对第一目录结构进行转换的第一操作日志,分布式文件系统的备用节点基于第一操作日志,为备用节点所存储的第二目录结构的第二目录节点生成标识信息,第二目录结构为第一目录结构的副本,第二目录节点的标识信息与对应第一目录节点的标识信息相同。本发明实施例还公开了相应的数据处理装置、系统和计算设备。
-
公开(公告)号:CN111694808A
公开(公告)日:2020-09-22
申请号:CN201910197350.4
申请日:2019-03-15
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F16/182 , G06F16/16
摘要: 本发明实施例公开了一种数据处理方法,应用于分布式文件系统,该方法包括:为分布式文件系统的主节点所存储的第一目录结构的第一目录节点生成标识信息,该标识信息用于在第一目录结构中唯一标识第一目录节点对应的目录或者文件;生成指示对第一目录结构进行转换的第一操作日志,分布式文件系统的备用节点基于第一操作日志,为备用节点所存储的第二目录结构的第二目录节点生成标识信息,第二目录结构为第一目录结构的副本,第二目录节点的标识信息与对应第一目录节点的标识信息相同。本发明实施例还公开了相应的数据处理装置、系统和计算设备。
-
-
-
-
-
-
-
-
-