一种基于统一视图的行列混合数据存储模型的建立方法

    公开(公告)号:CN104657426A

    公开(公告)日:2015-05-27

    申请号:CN201510033610.6

    申请日:2015-01-22

    CPC classification number: G06F16/9535

    Abstract: 本发明公开了一种基于统一视图的行列混合数据存储模型的建立方法,以同时满足行列敏感应用的不同需求。本发明方法具体为在原始数据结构的基础上进行数据抽象,标识出需要列式存储的列,对这些列进行维度分析,为每列建立维度值索引表,以此构建星型模型,最后进行数据重组,将原始数据表分成两个部分:事实表和维表,该事实表不包含维表相关列,且该事实表按行存储,将维表、维度值索引表按列存储。本发明在逻辑上基于星型模型进行数据抽象;在存储上将I/O敏感的列进行列式存储,并基于列值域进行逻辑压缩,降低I/O开销与存储空间;在应用上,基于统一视图/表,屏蔽数据存储的异构性,减轻应用开发的复杂性。

    一种电网时序大数据并行加载方法

    公开(公告)号:CN104407879B

    公开(公告)日:2018-02-02

    申请号:CN201410566127.X

    申请日:2014-10-22

    Abstract: 本发明公开了一种电网时序大数据并行加载方法,以解决多客户端并行加载海量历史时序数据时遇到的不能并行加载而产生等待现象的问题。本发明通过对索引映射表做分区处理、根据待加载的数据量的大小对历史时序数据存储表做分区预处理、根据各数据节点上所分配的历史时序数据存储表分区的范围,对待加载的海量历史时序数据做保持数据局部性的处理,经过上述处理后能够有效减少并行加载海量历史时序数据时多客户端读写索引映射表文件遇到的磁盘IO冲突和集群不同节点之间网络通信开销,避免单节点加载海量历史时序数据时负载过重带来的性能问题。本方法能充分利用分布式并行处理能力,大大减少海量历史时序数据加载的时间。

    一种基于FTP的数据交换系统

    公开(公告)号:CN104104738B

    公开(公告)日:2018-02-02

    申请号:CN201410385448.X

    申请日:2014-08-06

    Abstract: 本发明公开了一种基于FTP的数据交换系统,以实现电力系统数据的统一交换,本发明整个系统主要包括引擎(节点)、规则库、管理服务器、管理工具、开发接口,本数据交换系统基于标准数据规范和接口标准,配置数据交换服务,通过不同方式实现第三方系统数据的数据汇聚、整合与发布。本系统包括的功能模块主要有:数据提取模块、正向数据加工处理模块、批量数据传输模块、反向数据加工处理模块和数据存放模块。通过采用本发明的技术方案,能够实现企业或机构信息系统“横向集成,纵向贯通”的共享通道,实现对大规模数据的准确传输,保障电力系统中上下信息畅通、数据共享与应用集成。

    一种适用于截面访问模式的电网海量时序数据存取方法

    公开(公告)号:CN104331432A

    公开(公告)日:2015-02-04

    申请号:CN201410567859.0

    申请日:2014-10-22

    CPC classification number: G06F16/2474 G06F16/22

    Abstract: 本发明公开了一种适用于截面访问模式的电网海量时序数据存取方法,以实现在不影响写入性能的情况下同时兼顾时间序列查询及时间截面查询场景下的查询效率。本发明在系统中建立三张表,分别为Uid表、Time-series时间序列数据表、Time-point时间截面数据表,将电网时序数据分别存入时间序列数据表以及时间截面数据表中,使得相同时间段的电网数据在物理磁盘位置相邻,另外,同一时间点不同电网设备的电网数据在磁盘位置也相邻,这样可以保证按照时间序列以及按照时间截面这两种方式查询的效率。

    一种基于键值模型的情境适配电网大数据存储方法

    公开(公告)号:CN104991741B

    公开(公告)日:2018-02-02

    申请号:CN201510355540.6

    申请日:2015-06-24

    Abstract: 本发明公开了一种基于键值模型的情境适配电网大数据存储方法,以大幅提升实时数据的加载和查询性能,本发明将批量查询和断面查询定义为不同应用情境,根据情境定制不同键。对于具体的数据存储,根据键值进行排序,以提升数据定位的效率;对于值的构成,采用聚簇的思想,在同一个值中存放一批相关联的测点值。本发明方法能够满足不同的应用对于实时数据不同的访问需求,有效提升访问效率,并且节约磁盘空间,大大提升了存取效率。

    一种基于统一视图的行列混合数据存储模型的建立方法

    公开(公告)号:CN104657426B

    公开(公告)日:2018-07-03

    申请号:CN201510033610.6

    申请日:2015-01-22

    Abstract: 本发明公开了一种基于统一视图的行列混合数据存储模型的建立方法,以同时满足行列敏感应用的不同需求。本发明方法具体为在原始数据结构的基础上进行数据抽象,标识出需要列式存储的列,对这些列进行维度分析,为每列建立维度值索引表,以此构建星型模型,最后进行数据重组,将原始数据表分成两个部分:事实表和维表,该事实表不包含维表相关列,且该事实表按行存储,将维表、维度值索引表按列存储。本发明在逻辑上基于星型模型进行数据抽象;在存储上将I/O敏感的列进行列式存储,并基于列值域进行逻辑压缩,降低I/O开销与存储空间;在应用上,基于统一视图/表,屏蔽数据存储的异构性,减轻应用开发的复杂性。

    一种基于标准SQL的双引擎数据库系统的实现方法

    公开(公告)号:CN106844545A

    公开(公告)日:2017-06-13

    申请号:CN201611260595.X

    申请日:2016-12-30

    Abstract: 本发明公开了一种基于标准SQL的双引擎数据库系统的实现方法,提供一种双引擎数据库系统,选择关系数据库作为关系数据引擎以及选择实时数据库作为时序数据引擎,将关系数据引擎和时序数据引擎作为双引擎数据库系统,该系统包括SQL查询编译器和查询计划执行器,SQL查询编译器包括查询分析模块和查询重写模块;该方法逻辑上将时序数据映射到关系数据库的外部表,在统一表空间对时序数据和关系数据进行管理,为业务系统提供标准的SQL语法进行统一数据访问;使用标准SQL访问两种数据库,实现了实时数据和关系数据的统一管理,屏蔽了不同数据库在访问方式、存储方式上的差异,简化业务系统实现的复杂性。

    一种基于键值模型的情境适配电网大数据存储方法

    公开(公告)号:CN104991741A

    公开(公告)日:2015-10-21

    申请号:CN201510355540.6

    申请日:2015-06-24

    Abstract: 本发明公开了一种基于键值模型的情境适配电网大数据存储方法,以大幅提升实时数据的加载和查询性能,本发明将批量查询和断面查询定义为不同应用情境,根据情境定制不同键。对于具体的数据存储,根据键值进行排序,以提升数据定位的效率;对于值的构成,采用聚簇的思想,在同一个值中存放一批相关联的测点值。本发明方法能够满足不同的应用对于实时数据不同的访问需求,有效提升访问效率,并且节约磁盘空间,大大提升了存取效率。

Patent Agency Ranking