-
公开(公告)号:CN116560583A
公开(公告)日:2023-08-08
申请号:CN202310610789.1
申请日:2023-05-26
申请人: 北京金山云网络技术有限公司 , 武汉金山云信息技术有限公司
发明人: 甘红星
IPC分类号: G06F3/06
摘要: 本申请提供了一种支持追加写操作的存储方法和装置、电子设备和存储介质,其中,该方法包括:获取用户通过至少一次追加写操作上传的至少一个待存储数据块;根据每个待存储数据块的数据量对至少一个待存储数据块按照预设的数据量上限进行对齐,得到对齐后数据块,并在对象存储系统中对对齐后数据块通过第一存储操作进行存储;在存在互补数据块组的情况下,将每组互补数据块组整合成重组数据块,并在对象存储系统对重组数据块通过第二存储操作进行存储,其中,每个互补数据块组中包括多个互不相同的第一对齐后数据块,且每个互补数据块组的总数据量为数据量上限。通过本申请,解决了相关技术中存在的对象存储的存储方式存在读写放大的技术问题。
-
公开(公告)号:CN110941460B
公开(公告)日:2023-09-01
申请号:CN201911158763.8
申请日:2019-11-22
申请人: 北京金山云网络技术有限公司 , 北京金山云科技有限公司
发明人: 甘红星
IPC分类号: G06F9/445
摘要: 本发明实施例提供了一种应用程序的启动方法、装置、电子设备、系统及存储介质,实现在终端设备获取启动指令时,获取目标应用程序的配置文件;获取合法值文件;根据合法值文件,检测配置文件中配置项的配置值的合法性;若检测结果为配置文件中有任一配置项的配置值不合法,则停止启动目标应用程序;若检测结果为配置文件中没有不合法的配置值,则按照配置文件对目标应用程序中的配置项进行配置,以启动目标应用程序。可见,本发明实施例在按照配置文件对目标应用程序中的配置项进行配置之前,先根据合法值文件,检测配置文件中配置项的配置值的合法性;避免因配置文件中配置值有误,造成的应用程序不能正常启动的问题,保证应用程序的正常启动。
-
公开(公告)号:CN112130747A
公开(公告)日:2020-12-25
申请号:CN201910548604.2
申请日:2019-06-24
申请人: 北京金山云网络技术有限公司 , 北京金山云科技有限公司
发明人: 甘红星
IPC分类号: G06F3/06
摘要: 本申请实施例提供了分布式对象存储系统及数据读写方法,该分布式对象存储系统,包括:存储服务器集群,多个Cache组成的Cache集群及多个API客户端;其中,各API客户端均能够访问Cache集群中任一Cache。每个API客户端均能够访问Cache集群中的任一Cache,因此对于相同的数据文件,Cache集群仅缓存一份即可,能够节约Cache的存储资源。同时能够解决多个客户端访问同一数据的一致性问题,使用相同的资源做Cache,整体的Cache缓存数据的命中率相比于单节点会更高。Cache采用集群的方式部署,可以按照需求调整Cache集群的规模,具有较好的容错性和可扩展性。
-
公开(公告)号:CN110990189A
公开(公告)日:2020-04-10
申请号:CN201911216677.8
申请日:2019-11-29
申请人: 北京金山云网络技术有限公司 , 北京金山云科技有限公司
发明人: 甘红星
摘要: 本申请提供了一种数据存储方法、装置、电子设备及计算机可读存储介质,涉及数据处理技术领域,解决了分布式存储系统的灵活性较差的技术问题。该方法包括:获取待存储的原始数据,并基于所述原始数据生成M个数据块和N个校验块;将所述M个数据块和所述N个校验块分别保存至M+N个存储块中;将纠删码信息持久化至每个所述存储块中;其中,所述纠删码信息中包含M和N的数值。
-
公开(公告)号:CN118625996A
公开(公告)日:2024-09-10
申请号:CN202310256009.8
申请日:2023-03-08
申请人: 北京金迅瑞博网络技术有限公司 , 北京金山云网络技术有限公司
IPC分类号: G06F3/06
摘要: 本申请提供了一种垃圾数据回收方法和装置、电子设备和存储介质;其中,方法包括:确定目标存储单元组的目标生命周期,其中,目标生命周期用于指示目标存储单元组中的数据被回收的时刻,目标存储单元组中的每个目标数据块的删除时刻在生命周期之内,目标存储单元组包含多个目标存储单元,每个目标数据块存储在多个目标存储单元中的一个目标存储单元内;在按照目标生命周期确定目标存储单元组的生命结束的情况下,对所有目标存储单元中的所有目标数据块进行垃圾数据回收。通过本申请,有效克服了相关技术中垃圾数据回收消耗过多磁盘IO,影响前台用户的读写请求的性能的技术问题。
-
公开(公告)号:CN117827529A
公开(公告)日:2024-04-05
申请号:CN202311863025.X
申请日:2023-12-29
申请人: 北京金山云网络技术有限公司
发明人: 甘红星
摘要: 本公开涉及一种数据读取方法、装置、设备及可读存储介质。通过接收用户的数据读取请求,数据读取请求包括目标数据的标识信息,对数据读取请求进行解析,确定目标数据对应的多副本的多副本信息。进一步,基于多副本信息,在多副本已完全编码为纠删副本的情况下,确定目标纠删副本的第一位置信息。进而基于第一位置信息读取目标数据。相较于现有技术,本公开实施例通过客户端来处理数据读取的逻辑,确定出目标数据所在的位置信息,进而基于位置信息读取目标数据,无需通过多副本进行中转,解决了现有技术中数据读取时对于系统的整体负载和内网带宽的利用率都有损失的问题,消除了数据读取时的带宽放大,提高系统的整体负载和内网带宽的利用率。
-
公开(公告)号:CN111104069B
公开(公告)日:2024-02-06
申请号:CN201911330470.3
申请日:2019-12-20
申请人: 北京金山云网络技术有限公司
发明人: 甘红星
摘要: 本发明公开了一种分布式存储系统的多区域数据处理方法、装置、电子设备及计算机可读存储介质。该方法包括:在接收到数据写请求时,将所述数据写入到位于第一区域的第一存储服务器中以得到所述数据的主副本;将所述主副本的数据分别同步到位于所述第一区域的第二存储服务器和第三存储服务器中,以分别得到所述数据的从副本和临时副本;以及将所述临时副本的数据同步到位于第二区域的第四存储服务器中,以得到所述数据的延迟副本。本发明能够以较低的经济成本和存储成本实现多区域的功能。
-
公开(公告)号:CN113282571A
公开(公告)日:2021-08-20
申请号:CN202110578578.5
申请日:2021-05-26
申请人: 北京金山云网络技术有限公司
发明人: 甘红星
IPC分类号: G06F16/21
摘要: 本公开提供了一种数据转移方法、装置、电子设备和存储介质,涉及数据存储技术领域。具体实现方案为:确定待置换的源设备,获取设备映射表,其中,映射表中包含待置换的源设备和目标设备的对应关系,确定源设备中存在待恢复的元数据情况下,根据设备映射表和待置换的源设备,生成第一元数据恢复任务,将第一元数据恢复任务发送至源设备,以使得源设备根据第一元数据恢复任务将对应的数据转移至对应的目标设备,本申请中调度端根据设备映射表中各存储的待置换的源设备,和替换源设备的目标设备间的对应关系,触发转移任务,以使得源设备将数据转移至对应的目标设备,实现了自动进行待替换设备的数据转移,提高了数据转移的效率。
-
公开(公告)号:CN111142790A
公开(公告)日:2020-05-12
申请号:CN201911261724.0
申请日:2019-12-10
申请人: 北京金山云网络技术有限公司
发明人: 甘红星
摘要: 本发明公开了一种对磁盘写请求的控制方法,包括:获取当前时间片内各个类型的写请求模块对磁盘的所有写请求;根据所有写请求的总写入量与预设的磁盘写能力,确定下一时间片内接收到的控制型写请求的写入量;将确定的写入量发送至对应的控制型写请求模块。本发明可以提高控制型写请求的写入速度,加快磁盘空间的回收。
-
公开(公告)号:CN111444046A
公开(公告)日:2020-07-24
申请号:CN202010546266.1
申请日:2020-06-16
申请人: 北京金山云科技有限公司 , 北京金山云网络技术有限公司
发明人: 甘红星
摘要: 本发明实施例提供了一种数据恢复方法及分布式数据恢复系统,包括:管理节点检测到有数据存储节点存在数据对象丢失时,从多个数据存储节点中确定目的节点,生成数据恢复指令,将数据恢复指令发送至目的节点;目的节点根据接收到的数据恢复指令中的源数据节点信息,确定用于恢复待恢复丢失数据对象中各条待恢复数据的数据恢复索引,基于数据恢复索引向源数据节点发送数据恢复请求,并根据源数据节点返回的源数据对象数据,对至少两条待恢复数据进行恢复,直至待恢复丢失数据对象中的各条待恢复数据均恢复完成。本发明实施例,能够减少数据恢复的时间,提高数据的安全性。
-
-
-
-
-
-
-
-
-