一种电网时序大数据并行加载方法

    公开(公告)号:CN104407879B

    公开(公告)日:2018-02-02

    申请号:CN201410566127.X

    申请日:2014-10-22

    IPC分类号: G06F9/445

    摘要: 本发明公开了一种电网时序大数据并行加载方法,以解决多客户端并行加载海量历史时序数据时遇到的不能并行加载而产生等待现象的问题。本发明通过对索引映射表做分区处理、根据待加载的数据量的大小对历史时序数据存储表做分区预处理、根据各数据节点上所分配的历史时序数据存储表分区的范围,对待加载的海量历史时序数据做保持数据局部性的处理,经过上述处理后能够有效减少并行加载海量历史时序数据时多客户端读写索引映射表文件遇到的磁盘IO冲突和集群不同节点之间网络通信开销,避免单节点加载海量历史时序数据时负载过重带来的性能问题。本方法能充分利用分布式并行处理能力,大大减少海量历史时序数据加载的时间。

    一种适用于截面访问模式的电网海量时序数据存取方法

    公开(公告)号:CN104331432A

    公开(公告)日:2015-02-04

    申请号:CN201410567859.0

    申请日:2014-10-22

    IPC分类号: G06F17/30

    CPC分类号: G06F16/2474 G06F16/22

    摘要: 本发明公开了一种适用于截面访问模式的电网海量时序数据存取方法,以实现在不影响写入性能的情况下同时兼顾时间序列查询及时间截面查询场景下的查询效率。本发明在系统中建立三张表,分别为Uid表、Time-series时间序列数据表、Time-point时间截面数据表,将电网时序数据分别存入时间序列数据表以及时间截面数据表中,使得相同时间段的电网数据在物理磁盘位置相邻,另外,同一时间点不同电网设备的电网数据在磁盘位置也相邻,这样可以保证按照时间序列以及按照时间截面这两种方式查询的效率。

    一种基于分布式列存储的时间序列数据存储方法

    公开(公告)号:CN104035956A

    公开(公告)日:2014-09-10

    申请号:CN201410143604.1

    申请日:2014-04-11

    IPC分类号: G06F17/30

    CPC分类号: G06F17/30315

    摘要: 本发明公开了一种基于分布式列存储的时间序列数据存储方法,属于数据库技术领域。本发明使用由行键和列组成的稀疏表存储测点记录数据,行键包含了尽可能多的检索信息,每一行记录把某个时间段的分散采集的数据合并在一起,同时设置了名称映射表存储名称信息。本发明能够充分利用分布式列存储技术的各项优势,保证时间序列数据在分布式列存储上的存储和检索的效率,并且利用分布式存储增强数据存储的安全性。

    一种基于键值模型的情境适配电网大数据存储方法

    公开(公告)号:CN104991741B

    公开(公告)日:2018-02-02

    申请号:CN201510355540.6

    申请日:2015-06-24

    IPC分类号: G06F3/06

    摘要: 本发明公开了一种基于键值模型的情境适配电网大数据存储方法,以大幅提升实时数据的加载和查询性能,本发明将批量查询和断面查询定义为不同应用情境,根据情境定制不同键。对于具体的数据存储,根据键值进行排序,以提升数据定位的效率;对于值的构成,采用聚簇的思想,在同一个值中存放一批相关联的测点值。本发明方法能够满足不同的应用对于实时数据不同的访问需求,有效提升访问效率,并且节约磁盘空间,大大提升了存取效率。

    一种电网时序大数据并行加载方法

    公开(公告)号:CN104407879A

    公开(公告)日:2015-03-11

    申请号:CN201410566127.X

    申请日:2014-10-22

    IPC分类号: G06F9/445

    摘要: 本发明公开了一种电网时序大数据并行加载方法,以解决多客户端并行加载海量历史时序数据时遇到的不能并行加载而产生等待现象的问题。本发明通过对索引映射表做分区处理、根据待加载的数据量的大小对历史时序数据存储表做分区预处理、根据各数据节点上所分配的历史时序数据存储表分区的范围,对待加载的海量历史时序数据做保持数据局部性的处理,经过上述处理后能够有效减少并行加载海量历史时序数据时多客户端读写索引映射表文件遇到的磁盘IO冲突和集群不同节点之间网络通信开销,避免单节点加载海量历史时序数据时负载过重带来的性能问题。本方法能充分利用分布式并行处理能力,大大减少海量历史时序数据加载的时间。

    一种基于键值模型的情境适配电网大数据存储方法

    公开(公告)号:CN104991741A

    公开(公告)日:2015-10-21

    申请号:CN201510355540.6

    申请日:2015-06-24

    IPC分类号: G06F3/06

    摘要: 本发明公开了一种基于键值模型的情境适配电网大数据存储方法,以大幅提升实时数据的加载和查询性能,本发明将批量查询和断面查询定义为不同应用情境,根据情境定制不同键。对于具体的数据存储,根据键值进行排序,以提升数据定位的效率;对于值的构成,采用聚簇的思想,在同一个值中存放一批相关联的测点值。本发明方法能够满足不同的应用对于实时数据不同的访问需求,有效提升访问效率,并且节约磁盘空间,大大提升了存取效率。

    电网时序大数据存储方法
    10.
    发明公开

    公开(公告)号:CN104239447A

    公开(公告)日:2014-12-24

    申请号:CN201410441649.7

    申请日:2014-09-01

    IPC分类号: G06F17/30

    CPC分类号: G06F16/2246 G06F16/221

    摘要: 本发明公开了一种电网时序大数据存储方法,通过选择开源分布式列式数据库HBase作为存储层,结合电网业务中SG-CIM模型对业务逻辑上具有位置相关性的一批测点信息重新进行描述,通过设计一种合理的测点数据存储表的索引组织方式,利用HBase的分区和负载均衡功能,使得业务逻辑上具有位置相关性的一批测点的历史数据在物理存储上的位置是相邻的,从而使得对该批测点的历史数据进行查询时能够减少磁盘寻道时间,提高查询效率,为业务应用提供即时查询服务。