-
公开(公告)号:CN112035410A
公开(公告)日:2020-12-04
申请号:CN202010833472.0
申请日:2020-08-18
申请人: 腾讯科技(深圳)有限公司 , 清华大学
IPC分类号: G06F16/13 , G06F16/18 , G06F16/182
摘要: 本申请公开了一种日志存储方法、装置、节点设备及存储介质,属于数据库技术领域。该方法包括:响应于目标事务的提交事件,确定第一存储介质的剩余容量,第一存储介质为用于存储日志的非易失性存储介质;响应于该剩余容量小于该目标事务的未缓存日志的数据量,创建日志检查点,将第二存储介质中基于修改操作产生的业务数据存储至第三存储介质;将该目标事务的未缓存日志写入到该第一存储介质。本申请通过直接在第一存储介质中持久化地存储日志,无需执行繁琐的双层日志缓存流程,大大节约了日志存储占用的空间,提升了数据库的系统性能,避免了限制数据库系统的吞吐量上限,有利于数据扩容。
-
公开(公告)号:CN112035410B
公开(公告)日:2023-08-18
申请号:CN202010833472.0
申请日:2020-08-18
申请人: 腾讯科技(深圳)有限公司 , 清华大学
IPC分类号: G06F16/13 , G06F16/18 , G06F16/182
摘要: 本申请公开了一种日志存储方法、装置、节点设备及存储介质,属于数据库技术领域。该方法包括:响应于目标事务的提交事件,确定第一存储介质的剩余容量,第一存储介质为用于存储日志的非易失性存储介质;响应于该剩余容量小于该目标事务的未缓存日志的数据量,创建日志检查点,将第二存储介质中基于修改操作产生的业务数据存储至第三存储介质;将该目标事务的未缓存日志写入到该第一存储介质。本申请通过直接在第一存储介质中持久化地存储日志,无需执行繁琐的双层日志缓存流程,大大节约了日志存储占用的空间,提升了数据库的系统性能,避免了限制数据库系统的吞吐量上限,有利于数据扩容。
-
公开(公告)号:CN109739935B
公开(公告)日:2022-12-30
申请号:CN201910021178.7
申请日:2019-01-09
申请人: 腾讯科技(深圳)有限公司
摘要: 本发明公开了一种数据读取方法、装置、电子设备以及存储介质,属于数据库技术领域。本发明实施例提供的方法,通过找到当前全局读事务发生之前的赋值最大的已提交全局写事务标识,也即是找到了历史时刻上多个节点设备之间的、基于MVCC的、共同的具有事务一致性的点,相当于将所读取的时刻提前到一个历史时刻上,可以看作是一种提前读的过程,而在数据读取过程中,由于仅读取该已提交的全局写事务可见的数据,也就排除了可能导致事务不一致的全局写事务,使得所读取的数据具有事务一致性,实现了数据库系统对外的数据一致性。
-
公开(公告)号:CN110309233B
公开(公告)日:2022-11-15
申请号:CN201810266526.2
申请日:2018-03-28
申请人: 腾讯科技(深圳)有限公司
摘要: 本发明公开了一种数据存储的方法、装置、服务器和存储介质,属于数据处理技术领域。方法包括:从数据库中确定待转储的数据项的历史态数据,以及确定所述历史态数据的业务需求;根据所述业务需求,确定所述历史态数据的目标存储格式;根据所述目标存储格式,对所述历史态数据进行转储。本发明中,根据该业务需求对应的目标存储格式,对该历史态数据进行转储。从而不仅存储了数据项的全态数据(当前态数据、过渡态数据和历史态数据),还能灵活的以不同的存储格式存储历史态数据,提高了灵活性。
-
公开(公告)号:CN110196863B
公开(公告)日:2022-10-18
申请号:CN201810418787.1
申请日:2018-05-04
申请人: 腾讯科技(深圳)有限公司
发明人: 李海翔
IPC分类号: G06F16/2453
摘要: 本申请公开了数据处理方法、装置、计算设备及存储介质。其中,数据处理方法包括:获取数据处理请求,所述数据处理请求用于描述对一个或多个数据对象的操作请求;确定与所述数据处理请求对应的缺省执行计划;在检测到所述一个或多个数据对象中至少一个数据对象的统计信息不准确时,确定与所述缺省执行计划对应的一个或多个第一备选计划,其中,每个第一备选计划用于描述代价估值经过放大的一个物理查询计划;以及确定与所述缺省执行计划对应的一个或多个第二备选计划,其中,每个第二备选计划用于描述代价估值经过缩小的一个物理查询计划。
-
公开(公告)号:CN110765143B
公开(公告)日:2022-08-02
申请号:CN201910959838.6
申请日:2019-10-10
申请人: 腾讯科技(深圳)有限公司 , 中国人民大学
IPC分类号: G06F16/23
摘要: 本发明实施例公开了一种数据处理方法、装置、服务器和存储介质;本发明实施例可以获取操作指令,操作指令包括操作类型信息和待操作数据单元信息;根据待操作数据单元信息在数据组集合中查询目标数据组,数据组集合包括至少一个数据组,数据组包括至少一个数据单元;获取目标数据组的锁定状态信息;基于锁定状态信息以及操作类型信息对待操作数据单元进行加锁检测,得到检测结果;基于检测结果对待操作数据单元进行加锁处理;当完成加锁处理后,执行操作指令,以对待操作数据单元进行操作类型信息对应的操作。在本发明根据待操作单元所属的目标数据组来为待操作单元进行对应的加锁处理。由此,本发明可以在保证安全的同时,提升数据处理的效率。
-
公开(公告)号:CN112527759A
公开(公告)日:2021-03-19
申请号:CN202110178645.4
申请日:2021-02-09
申请人: 腾讯科技(深圳)有限公司
IPC分类号: G06F16/18 , G06F16/182 , G06F16/17 , G06F16/27 , G06F16/22
摘要: 本申请公开了一种日志执行方法、装置、计算机设备及存储介质,属于数据库技术领域。本申请通过设置日志执行活跃窗口并保证日志执行活跃窗口之前的日志均已执行,仅需要验证日志执行活跃窗口内的任一日志是否与日志执行活跃窗口内的、该任一日志之前的、尚未执行的日志发生存储范围冲突,即可得知该任一日志是否会在整个分布式存储系统中引发数据不一致问题,对于无冲突的该任一日志,支持乱序执行该任一日志,而无需阻塞该任一日志的执行进程,并无需等待日志执行活跃窗口内的、该任一日志之前的、尚未执行的日志执行完毕,能够大大提升分布式存储系统的吞吐量,且能够适用于高并发场景。
-
公开(公告)号:CN112463311A
公开(公告)日:2021-03-09
申请号:CN202110115847.4
申请日:2021-01-28
申请人: 腾讯科技(深圳)有限公司
发明人: 李海翔
摘要: 本申请公开了一种事务处理方法、装置、计算机设备及存储介质,属于数据库技术领域。本申请通过在目标事务的执行阶段,获取目标事务的读写集合,在验证阶段,根据目标事务的逻辑开始时刻和逻辑提交时刻,验证目标事务是否符合自身的并发一致性级别,并基于预定策略动态更新逻辑开始时刻,使得最终更新后的逻辑开始时刻和逻辑提交时刻能够在合法的情况下,不会发生自身的并发一致性级别所不允许的数据异常,进而提交目标事务,能够使得整个系统内不同的事务对应于不同的并发一致性级别,大大提升的数据异常检测准确程度,提高了事务处理效率以及数据库系统的性能。
-
公开(公告)号:CN109960612B
公开(公告)日:2021-01-05
申请号:CN201910172274.1
申请日:2019-03-07
申请人: 腾讯科技(深圳)有限公司
摘要: 本发明公开了一种确定数据存储占比的方法、装置及服务器,所述方法包括:获取与文件数据中目标数据一一对应的标准数字型数据,所述文件数据中的目标数据为多种类型的数据;确定所述标准数字型数据的第一数值区间与目标数据块所对应的标准数字型数据的第二数值区间的交集数值区间,所述目标数据块为所述文件数据的任一数据块;基于预设哈希函数确定所述交集数值区间中的标准数字型数据在所述目标数据块所对应哈希表中的哈希下标区间,所述哈希表包括与哈希下标对应的标准数字型数据的出现次数;将所述哈希下标区间所对应的标准数字型数据的出现次数之和除以目标数据块中数据的总数量,得到所述目标数据在所述目标数据块中的存储占比。
-
公开(公告)号:CN111736964A
公开(公告)日:2020-10-02
申请号:CN202010628597.X
申请日:2020-07-02
申请人: 腾讯科技(深圳)有限公司
发明人: 李海翔
IPC分类号: G06F9/46 , G06F9/52 , G06F16/21 , G06F16/2453 , G06F16/27
摘要: 本申请公开了一种事务处理方法、装置、计算机设备及存储介质,属于数据库技术领域。本申请通过对于涉及到范围查询的目标事务,根据其数据集合的过滤条件也即是范围查询的谓词条件,获取到目标事务的读写集合,从而确定出读写集合存在重叠的至少一个并发事务,对目标事务与至少一个并发事务进行异常识别以获取异常识别信息,在异常识别信息指示不存在数据异常的情况下提交目标事务,这种方式既不完全依赖于封锁技术也不完全依赖于依赖图技术,避免了限制数据库系统的并发度,能够提升数据库系统的事务处理效率,有利于数据库扩容。
-
-
-
-
-
-
-
-
-