-
公开(公告)号:CN106933868B
公开(公告)日:2020-04-24
申请号:CN201511024615.9
申请日:2015-12-30
申请人: 阿里巴巴集团控股有限公司
摘要: 本发明公开了一种调整数据分片分布的方法。当到达与待处理数据分片对应的调整时刻时,获取待处理数据分片的访问频度信息,随后根据访问频度信息以及预设的收益函数确定数据分片对应各数据中心的收益数据,最后根据各数据中心的收益数据以及副本的数量生成最优分布信息,并按照最优分布信息对各副本在各数据中心的位置进行调整。从而在无需额外设置用于存储的内存或者硬盘的情况下,根据数据分片的访问频度和特性动态优化数据分片的分布情况,从而降低了数据中心之间的传输带宽需求。
-
公开(公告)号:CN107092598A
公开(公告)日:2017-08-25
申请号:CN201610088248.7
申请日:2016-02-17
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F17/30
CPC分类号: G06F17/30194 , G06F17/30091
摘要: 本申请公开了一种数据存储位置信息的管理方法和装置,该方法包括:根据预设规则持久化保存内存状态,其中,所述内存状态包括数据存储位置信息和数据存储设备的状态信息;在重启之后,将内存状态恢复到重启前持久化保存的内存状态;根据所述数据存储设备的状态信息恢复正常状态的数据存储设备的访问。缩短了元数据服务器重启时重建内存中数据存储位置信息的用时,减少了分布式文件系统无法对外服务的时长,提高了系统的可用性和可运维性。
-
公开(公告)号:CN107783988B
公开(公告)日:2021-12-03
申请号:CN201610727980.4
申请日:2016-08-26
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F16/185
摘要: 本申请的目的是提供一种目录树的加锁方法及设备,本申请通过预先分配对应于目录树各层结点的读写锁对象,能够避免动态创建和回收读写锁对象的内存管理开销,从而减少内存管理开销,以提高目录树操作性能;根据目录树操作,对操作路径中的各结点所对应的读写锁对象加读锁或写锁,以实现对所述操作路径的加锁粒度小的情况下,保证所述目录树操作并发访问时不会出现死锁情况,进而通过减少锁冲突来降低目录树并发操作的延迟,提高处理目录树操作的吞吐量。
-
公开(公告)号:CN108319618A
公开(公告)日:2018-07-24
申请号:CN201710036337.1
申请日:2017-01-17
申请人: 阿里巴巴集团控股有限公司
摘要: 一种分布式存储系统的数据分布控制方法、系统及装置,分布控制系统从分布式存储系统提供的多种分布策略中确定第一数据采用的分布策略,所述多种分布策略包括跨容错域分布的策略和在一个容错域内分布的策略;然后根据采用的所述分布策略和分布式存储系统的拓扑关系,为所述第一数据分配容错域并进行数据写入。本申请增加了数据的分布属性设置,可以适应数据的差异性要求。
-
公开(公告)号:CN106933868A
公开(公告)日:2017-07-07
申请号:CN201511024615.9
申请日:2015-12-30
申请人: 阿里巴巴集团控股有限公司
摘要: 本发明公开了一种调整数据分片分布的方法。当到达与待处理数据分片对应的调整时刻时,获取待处理数据分片的访问频度信息,随后根据访问频度信息以及预设的收益函数确定数据分片对应各数据中心的收益数据,最后根据各数据中心的收益数据以及副本的数量生成最优分布信息,并按照最优分布信息对各副本在各数据中心的位置进行调整。从而在无需额外设置用于存储的内存或者硬盘的情况下,根据数据分片的访问频度和特性动态优化数据分片的分布情况,从而降低了数据中心之间的传输带宽需求。
-
公开(公告)号:CN108319618B
公开(公告)日:2022-05-06
申请号:CN201710036337.1
申请日:2017-01-17
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F16/27 , G06F16/182 , H04L67/1097
摘要: 一种分布式存储系统的数据分布控制方法、系统及装置,分布控制系统从分布式存储系统提供的多种分布策略中确定第一数据采用的分布策略,所述多种分布策略包括跨容错域分布的策略和在一个容错域内分布的策略;然后根据采用的所述分布策略和分布式存储系统的拓扑关系,为所述第一数据分配容错域并进行数据写入。本申请增加了数据的分布属性设置,可以适应数据的差异性要求。
-
公开(公告)号:CN107783988A
公开(公告)日:2018-03-09
申请号:CN201610727980.4
申请日:2016-08-26
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F17/30
CPC分类号: G06F17/30221
摘要: 本申请的目的是提供一种目录树的加锁方法及设备,本申请通过预先分配对应于目录树各层结点的读写锁对象,能够避免动态创建和回收读写锁对象的内存管理开销,从而减少内存管理开销,以提高目录树操作性能;根据目录树操作,对操作路径中的各结点所对应的读写锁对象加读锁或写锁,以实现对所述操作路径的加锁粒度小的情况下,保证所述目录树操作并发访问时不会出现死锁情况,进而通过减少锁冲突来降低目录树并发操作的延迟,提高处理目录树操作的吞吐量。
-
公开(公告)号:CN106970851A
公开(公告)日:2017-07-21
申请号:CN201610023856.X
申请日:2016-01-14
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F11/07
CPC分类号: G06F11/0757 , G06F11/0727 , G06F2201/86
摘要: 本申请的目的是提供一种用于分布式文件系统中磁盘检测处理的方法和设备,通过创建磁盘检测守护线程,并利用所述磁盘检测守护线程创建与磁盘对应的一个或多个磁盘检测线程;利用所述磁盘检测线程执行针对所述磁盘的输入输出操作,并记录所述输入输出操作的操作开始时间直至相应所述输入输出操作结束;接着,利用所述磁盘检测守护线程从所述磁盘检测线程获取所述操作开始时间,并比较所述操作开始时间与当前时间以获取相应所述输入输出操作的操作持续时间;当所述操作持续时间超过第一时间阈值,则将相应所述输入输出操作所对应的磁盘的状态标记为挂起状态。从而实现检测磁盘挂起状态操作和规避磁盘挂起操作带来的不良影响。
-
公开(公告)号:CN106649401A
公开(公告)日:2017-05-10
申请号:CN201510740419.5
申请日:2015-11-03
申请人: 阿里巴巴集团控股有限公司
IPC分类号: G06F17/30
摘要: 本申请实施例提供了一种分布式文件系统中的数据写入方法和装置。该分布式文件系统中的数据写入方法包括:在元数据服务器所管理的多个副本服务器中,根据所述多个副本服务器的剩余容量选择目标副本服务器;在所述目标副本服务器中,根据所述目标副本服务器所管理的磁盘的剩余容量及磁盘负载选择写入磁盘;通过所述目标副本服务器将写入数据存储在所述写入磁盘中。本申请实施例通过元数据服务器和副本服务器两级选盘方式,综合考虑磁盘剩余容量以及磁盘负载来确定写入数据的存储磁盘,既避免了磁盘写满,也不会造成磁盘的热点访问。
-
-
-
-
-
-
-
-