一种分布式系统环境下的编码方法、解码方法和对应装置

    公开(公告)号:CN111984443B

    公开(公告)日:2024-09-03

    申请号:CN201910439739.5

    申请日:2019-05-24

    发明人: 董元元 赵亚飞

    IPC分类号: G06F11/07 G06F11/10 G06F11/14

    摘要: 本申请提出一种分布式系统环境下的编码方法、解码方法和对应装置,涉及编码容错技术领域,所述方法包括:对原始数据进行第一编码,获得全局校验数据,对原始数据进行第二编码,获得本地校验数据;将所述原始数据保存在分布式系统的一个或者多个数据分区中;在存入原始数据的数据分区中存入所述原始数据对应的全局校验数据和本地校验数据。针对分布式系统环境,在不影响系统容错能力以及存储代价的前提下优化其恢复代价。

    分布式系统中的数据写入方法及装置、分布式系统

    公开(公告)号:CN113296684A

    公开(公告)日:2021-08-24

    申请号:CN202010396264.9

    申请日:2020-05-12

    IPC分类号: G06F3/06

    摘要: 本说明书实施例提供分布式系统中的数据写入方法及装置、分布式系统,其中所述方法应用于客户端,包括:根据接收的写请求向分布式系统中的元数据节点发送数据块分配请求,并接收所述元数据节点返回的目标数据块的索引信息和至少一个后备数据块的索引信息;将待写入数据中的单位数据写入至目标数据块,并监控执行单位数据写入操作的响应时间,其中目标数据块根据目标数据块的索引信息确定;在所述响应时间大于预设阈值的情况下,停止写入操作,从后备数据块中根据数据块标识确定新的目标数据块,继续执行将所述待写入数据中的单位数据写入至目标数据块的写入操作。

    用于混合存储设备读写数据的方法以及装置

    公开(公告)号:CN107817946B

    公开(公告)日:2021-06-04

    申请号:CN201610822034.8

    申请日:2016-09-13

    IPC分类号: G06F3/06

    摘要: 本申请公开了一种用于混合存储设备读写数据的方法,所述混合存储设备至少包括第一存储介质和第二存储介质,所述第一存储介质的读写速率大于所述第二存储介质的读写速率;该方法包括:接收至少一个数据块写入所述混合存储设备的写入请求;对所述数据块各自的数据信息和元数据按照预设的数据聚合基准进行聚合,聚合之后生成所述数据块对应的数据记录;将所述数据记录写入所述第一存储介质;将所述第一存储介质中写入的所述数据记录向所述第二存储介质中转储;其中,所述数据记录中包含对应的数据块各自的数据信息和元数据。该方法提升了所述混合存储设备中存储介质的性能,延长了所述混合存储设备中存储介质的使用寿命。

    数据对象的存放方法、装置、电子设备及计算机可读介质

    公开(公告)号:CN112783423A

    公开(公告)日:2021-05-11

    申请号:CN201911089732.1

    申请日:2019-11-08

    发明人: 董元元 杨濮源

    IPC分类号: G06F3/06

    摘要: 本申请实施例提供了一种数据对象的存放方法、装置、电子设备及计算机可读介质,涉及计算机技术领域。其中,所述方法包括:基于数据对象请求中携带的数据对象特征数据,确定所述数据对象请求对应的数据对象所属的第一类别和所述数据对象在第一未来时间段内被访问的频率;基于所述第一类别,确定服务性能满足所述数据对象的服务性能要求的存储设备所属的第二类别;基于所述频率和所述第二类别,确定适于存放所述数据对象的存储设备。通过本申请实施例,在满足数据对象性能要求的前提下,能够更准确地将数据对象存放于对应合适的存储设备上,从而提高存储设备的整体利用率。

    数据的处理方法和装置
    5.
    发明公开

    公开(公告)号:CN111435288A

    公开(公告)日:2020-07-21

    申请号:CN201910032459.2

    申请日:2019-01-14

    IPC分类号: G06F3/06 G06F11/10

    摘要: 本发明公开了一种数据的处理方法和装置。其中,该方法包括:接收到写请求,其中,写请求用于请求向存储区的数据容器中的任意一个或多个数据带写入数据;在存储区的数据容器中的任意一个或多个数据带的数据都对齐的情况下,生成校验码;将数据和校验码进行持久化处理。本发明解决了由于现有技术中在写入数据的过程中存在不对齐数据的情况,现有技术一般采用读改写或填充无效数据的方式来处理,存在复杂空洞的技术问题。

    数据更新方法、装置及相关系统

    公开(公告)号:CN106302625B

    公开(公告)日:2019-10-25

    申请号:CN201510363437.6

    申请日:2015-06-26

    IPC分类号: H04L29/08

    摘要: 本发明公开的一种数据更新方法、装置及相关系统,其中,所述数据更新方法包括:接收每台所述副本服务器中数据副本更新完成后的响应信息;当更新时间内所接收的响应信息数量小于所述副本服务器的总数量时,将未发送响应信息的副本服务器对应的副本状态修改为继续更新状态;当预设继续更新时间内仍未接收到所述继续更新的副本服务器发送的响应信息时,将所述继续更新的副本服务器对应的副本信息从所述副本列表中删除;更新所述副本列表的列表属性值,并将该列表属性值发送到中心服务器中。与现有技术相比,本发明技术方案能够在减小I/O性能抖动的基础上,降低向中心服务器写数据的频率,进而能够减小中心服务器的压力,提高系统可用性。

    一种数据更新方法和设备

    公开(公告)号:CN106209926B

    公开(公告)日:2019-06-21

    申请号:CN201510213538.5

    申请日:2015-04-30

    IPC分类号: H04L29/08

    摘要: 本申请实施例公开了一种数据更新方法和设备,包括:发送端获得更新请求消息,并获得所述更新请求消息中的数据和控制信息;发送端将所述数据通过数据更新请求消息发送给接收端,所述发送端将所述控制信息通过控制信息更新请求消息发送给所述接收端,通过数据更新请求消息和控制信息更新请求消息将数据和控制信息分别发送给接收端,利用接收端进行数据更新的时间传输更新请求消息中的数据,大幅降低数据更新过程中数据传输的等待时间,从而降低数据更新延迟,提高系统性能。

    用于混合存储设备读写数据的方法以及装置

    公开(公告)号:CN107817946A

    公开(公告)日:2018-03-20

    申请号:CN201610822034.8

    申请日:2016-09-13

    IPC分类号: G06F3/06

    摘要: 本申请公开了一种用于混合存储设备读写数据的方法,所述混合存储设备至少包括第一存储介质和第二存储介质,所述第一存储介质的读写速率大于所述第二存储介质的读写速率;该方法包括:接收至少一个数据块写入所述混合存储设备的写入请求;对所述数据块各自的数据信息和元数据按照预设的数据聚合基准进行聚合,聚合之后生成所述数据块对应的数据记录;将所述数据记录写入所述第一存储介质;将所述第一存储介质中写入的所述数据记录向所述第二存储介质中转储;其中,所述数据记录中包含对应的数据块各自的数据信息和元数据。该方法提升了所述混合存储设备中存储介质的性能,延长了所述混合存储设备中存储介质的使用寿命。

    基于软件化存储系统读写数据的方法以及装置

    公开(公告)号:CN107562367A

    公开(公告)日:2018-01-09

    申请号:CN201610516089.6

    申请日:2016-07-01

    IPC分类号: G06F3/06

    摘要: 本申请公开一种基于软件化存储系统写数据的方法,包括:接收向存储介质写数据的写数据请求;为所述写数据请求分配一个存储池,并在所述存储池中为所述写数据请求分配一个缓存对象;读取所述写数据请求对应的缓存对象的对象参数;在所述对象参数中包含的缓存存储目录下针对所述写数据请求进行写操作,并更新所述写数据请求携带的待写入数据在预设索引中的索引条目。所述基于软件化存储系统写数据的方法,适用于不同配置的物理机器的存储介质,同时还能对存储介质上的存储区域进行组合管理,具有较大的性能优势;此外,还能适应存储介质的快速迭代更新,具有较强的适应性。

    一种数据块更新方法及设备

    公开(公告)号:CN105991752A

    公开(公告)日:2016-10-05

    申请号:CN201510101466.5

    申请日:2015-03-06

    IPC分类号: H04L29/08

    摘要: 本申请公开了一种数据块更新方法,当需要对数据块进行更新时,客户端对数据块的更新进行定序并分配版本,然后向存储系统中当前包含该数据块有效副本的所有副本服务器发送数据块更新请求,随后接收由正常副本服务器发送的响应消息,然后根据在预配置的超时时间内从正常副本服务器所接收到的响应消息的数量以及预设的配置阈值确认是否将数据块的版本修改为更新版本。从而在不增加副本服务器负载的前提下,保证了各个副本服务器中数据块的一致性。