一种基于数据温度对数据块自动进行分布的方法和装置

    公开(公告)号:CN103336670B

    公开(公告)日:2016-11-23

    申请号:CN201310218930.X

    申请日:2013-06-04

    发明人: 李海丰 张勇

    IPC分类号: G06F3/06

    摘要: 本发明适用于数据处理领域,提供了一种基于数据温度对数据块自动进行分布的方法和装置,所述方法包括:获取存储节点存储的数据块的被访问信息;对所述被访问信息进行统计,生成统计数据;根据所述统计数据将存储节点存储的数据块划分为不同的数据温度;根据存储节点的I/O性能和所述数据温度对所述数据块进行重新分布。本发明实施例,系统获取存储节点存储的数据块的被访问信息,根据所述被访问信息对数据块的数据温度进行划分,根据存储节点的I/O性能和所述数据温度对所述数据块进行重新分布,使得所有存储节点的性能都能够得到充分发挥,为应用提供了更好的磁盘I/O性能。

    一种在线重建索引的方法和装置

    公开(公告)号:CN103605657A

    公开(公告)日:2014-02-26

    申请号:CN201310478786.3

    申请日:2013-10-14

    发明人: 李海丰

    IPC分类号: G06F17/30

    摘要: 本发明实施例公开了一种在线重建索引的方法和装置。其中,该方法包括:为源索引创建索引快照、索引缓存和目标索引,并在创建过程中阻塞对数据库基表的写事务;按照索引页的先后顺序逐页地将源索引中的源索引数据迁移到目标索引中,并在迁移过程中通过索引快照对源索引中的无效源索引数据进行过滤;将迁移过程中所产生的新索引数据存入索引缓存中;在迁移过程中,如果索引缓存中存在正在处理的当前索引页所需的新索引数据,将所述新索引数据与当前索引页中的源索引数据一同迁移到目标索引中;或者,在源索引数据全部迁移完毕后,将索引缓存中的新索引数据迁移到目标索引中。根据本发明实施例,可以减少系统随机IO的操作以及系统开销。

    索引数据的存储方法、装置及存储设备

    公开(公告)号:CN104156407B

    公开(公告)日:2017-08-25

    申请号:CN201410364623.7

    申请日:2014-07-29

    IPC分类号: G06F17/30

    摘要: 本发明公开了一种索引数据的存储方法,涉及数据处理领域,通过对索引页面进行压缩,不仅减少了系统存储空间,而且增大每个索引页面上的索引记录条数。本发明提供的索引压缩方法包括:获取单页面内所有原始索引数据组,在单页面中建立索引位图,确定并存储单页面内的最小索引值。将每个索引值分别减去最小索引值计算差值delta1,并将索引位图中的第delta1个位置的标记位置位,删除每个原始索引数据组中的索引值,在生成仅包括元组地址的压缩索引数据组后,按照索引值对应的delta1在索引位图中的高低位顺序将每个原始索引数据组对应的压缩索引数据组重新存储在单页面内,完成索引压缩。本发明主要应用于索引数据存储的过程中。

    一种基于数据温度对数据块自动进行分布的方法和装置

    公开(公告)号:CN103336670A

    公开(公告)日:2013-10-02

    申请号:CN201310218930.X

    申请日:2013-06-04

    发明人: 李海丰 张勇

    IPC分类号: G06F3/06

    摘要: 本发明适用于数据处理领域,提供了一种基于数据温度对数据块自动进行分布的方法和装置,所述方法包括:获取存储节点存储的数据块的被访问信息;对所述被访问信息进行统计,生成统计数据;根据所述统计数据将存储节点存储的数据块划分为不同的数据温度;根据存储节点的I/O性能和所述数据温度对所述数据块进行重新分布。本发明实施例,系统获取存储节点存储的数据块的被访问信息,根据所述被访问信息对数据块的数据温度进行划分,根据存储节点的I/O性能和所述数据温度对所述数据块进行重新分布,使得所有存储节点的性能都能够得到充分发挥,为应用提供了更好的磁盘I/O性能。

    一种确定数据库热页面的方法及装置

    公开(公告)号:CN106682005A

    公开(公告)日:2017-05-17

    申请号:CN201510751156.8

    申请日:2015-11-05

    IPC分类号: G06F17/30

    摘要: 本发明提供一种确定数据库热页面方法,包括:在访问数据库的情形下,将数据库的N个页面分别配置一个计数器,各个所述计数器分别用于统计各计数器所对应的页面被并发访问的次数,所述并发访问是指访问所述页面的至少一个读命令或写命令需要等待访问所述页面,所述N个页面为数据库的所有页面或者为所述数据库中的N个页面,所述N为正整数;根据第K个所述页面被并发访问的次数及访问时间参数,计算所述第K个所述页面所发生的所述并发访问的频率是否超过特定阈值,从而确定所述第K个所述页面为热页面。

    数据读取方法、装置及计算设备

    公开(公告)号:CN103336672B

    公开(公告)日:2016-10-05

    申请号:CN201310267802.4

    申请日:2013-06-28

    IPC分类号: G06F3/06

    摘要: 本发明实施例公开了数据读取方法、装置及计算设备,所述方法包括:接收用户进程提交的数据读请求;根据所述数据读请求生成至少两个块读取请求;将所述至少两个块读取请求一次性提交至硬盘的输入输出IO调度队列;通过调度所述IO调度队列中的所述至少两个块读取请求,将所述数据读请求所请求的数据从硬盘缓存区读取到用户缓存区。本发明实施例在读取数据时,对至少两个块读取请求进行一次性提交和处理,因此提高了处理效率和数据读取效率;并且,由于对一个数据读请求的所有块读取请求仅需挂起和唤醒一次用户进程,因此节省了计算设备内的进程调度开销,从而提高了计算设备的整体性能。

    数据恢复的方法及装置

    公开(公告)号:CN103412803B

    公开(公告)日:2016-08-10

    申请号:CN201310356094.1

    申请日:2013-08-15

    发明人: 佟强 李海丰

    IPC分类号: G06F11/14 G06F17/30

    摘要: 本发明公开了一种数据恢复的方法及装置,能够解决在数据库恢复过程中,因频繁向磁盘读取数据文件,导致数据库性能低的问题;以及因连续日志对应于不连续数据页,导致数据库恢复速度慢的问题。所述方法包括:从日志文件中的恢复起点获取至少一条日志;根据所述至少一条日志中的每一条Redo日志,生成一个虚拟数据页,所述虚拟数据页用于表示根据Redo日志进行重做后得到的数据页;根据待恢复的原始数据页的存储顺序,将每个虚拟数据页与磁盘中对应的一个待恢复的原始数据页进行合并,得到恢复后的原始数据页。本发明主要应用于数据库恢复的过程中。

    索引数据的存储方法、装置及存储设备

    公开(公告)号:CN104156407A

    公开(公告)日:2014-11-19

    申请号:CN201410364623.7

    申请日:2014-07-29

    IPC分类号: G06F17/30

    CPC分类号: G06F17/30324

    摘要: 本发明公开了一种索引数据的存储方法,涉及数据处理领域,通过对索引页面进行压缩,不仅减少了系统存储空间,而且增大了每个索引页面上的索引记录条数。本发明提供的索引压缩方法包括:获取单页面内所有原始索引数据组,在所述单页面中建立索引位图,确定并存储所述单页面内的最小索引值。将每个索引值分别减去所述最小索引值计算差值delta1,并将所述索引位图中的第delta1个位置的标记位置位,然后删除每个原始索引数据组中的索引值,在生成仅包括元组地址的压缩索引数据组后,按照索引值对应的delta1在索引位图中的高低位顺序将每个原始索引数据组对应的压缩索引数据组重新存储在所述单页面内,从而完成索引压缩。本发明主要应用于索引数据存储的过程中。

    数据读取方法、装置及计算设备

    公开(公告)号:CN103336672A

    公开(公告)日:2013-10-02

    申请号:CN201310267802.4

    申请日:2013-06-28

    IPC分类号: G06F3/06

    摘要: 本发明实施例公开了数据读取方法、装置及计算设备,所述方法包括:接收用户进程提交的数据读请求;根据所述数据读请求生成至少两个块读取请求;将所述至少两个块读取请求一次性提交至硬盘的输入输出IO调度队列;通过调度所述IO调度队列中的所述至少两个块读取请求,将所述数据读请求所请求的数据从硬盘缓存区读取到用户缓存区。本发明实施例在读取数据时,对至少两个块读取请求进行一次性提交和处理,因此提高了处理效率和数据读取效率;并且,由于对一个数据读请求的所有块读取请求仅需挂起和唤醒一次用户进程,因此节省了计算设备内的进程调度开销,从而提高了计算设备的整体性能。

    压缩数据的方法、解压数据的方法、编码器和解码器

    公开(公告)号:CN103326732A

    公开(公告)日:2013-09-25

    申请号:CN201310172509.X

    申请日:2013-05-10

    IPC分类号: H03M7/40

    摘要: 本发明公开了一种压缩数据的方法、解压数据的方法、编码器和解码器。该压缩数据的方法包括:确定待压缩的列级数据;获取与该列级数据对应的目标静态字典表;将该列级数据作为数据流,将该目标静态字典表作为编码字典,对该列级数据进行压缩;压缩完成后,独立存储该目标静态字典表,以便于该目标静态字典表用于其它列级数据的压缩。本发明实施例的压缩数据的方法、解压数据的方法、编码器和解码器,由于静态字典表与数据分离存储,避免了每次压缩都需要重建字典表,并使得不同的压缩对象之间能够共享字典表,从而能够进行列压缩,并能够提高压缩比率,以及提升操作性能。