-
公开(公告)号:CN105577422A
公开(公告)日:2016-05-11
申请号:CN201510766730.7
申请日:2015-11-11
Applicant: 江苏瑞中数据股份有限公司 , 国家电网公司 , 国网冀北电力有限公司信息通信分公司
Abstract: 本发明公开了一种能源互联网的实时数据分析系统及其方法,适用于时效性要求较高的实时流计算以及时效性不高、精确的离线计算。本发明前端采用一种分布式缓存的机制,实现大规模并发数据的高速采集;后端采用一种分布式计算框架的机制,实现业务计算方法的快速实现。本发明既能满足实时流计算又能满足离线计算的通用、高效的计算框架;同时,本发明支持业务计算的水平扩展。
-
公开(公告)号:CN106844556A
公开(公告)日:2017-06-13
申请号:CN201611265634.5
申请日:2016-12-30
Applicant: 江苏瑞中数据股份有限公司
Inventor: 王远 , 谢玉波 , 唐胜 , 包建国 , 曹健 , 陈辛明 , 程飞飞 , 何世春 , 孔炜 , 李强 , 秦鹏飞 , 陶霞 , 王乐之 , 王为明 , 韦程 , 张操政 , 张巍
IPC: G06F17/30
CPC classification number: G06F17/30191 , G06F17/30091 , G06F17/30194
Abstract: 本发明公开了一种基于HBase的智能电网时标量测数据存储方法,包括以下步骤:根据量测点的时标和业务模型建立时标量测数据存储模型;采用WAL技术完成对数据记录的加载从而实现将请求加载的数据全部加载到存储模型中;根据量测点规模和数据产生频率,建立数据分区机制,当存储模型中数据量达到分区条件时,实现动态预分区;针对数据规模大、数据产生持续性强的时标量测数据,实现数据高速加载,满足时标量测数据快速加载;采用WAL技术,确保系统异常崩溃时,可通过日志文件快速恢复数据,提升数据加载的可靠性;根据量测点规模和数据产生频率,建立灵活的数据分区机制,确保大量数据分布式访问,提升数据访问性能。
-
公开(公告)号:CN104657426A
公开(公告)日:2015-05-27
申请号:CN201510033610.6
申请日:2015-01-22
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F17/30
CPC classification number: G06F16/9535
Abstract: 本发明公开了一种基于统一视图的行列混合数据存储模型的建立方法,以同时满足行列敏感应用的不同需求。本发明方法具体为在原始数据结构的基础上进行数据抽象,标识出需要列式存储的列,对这些列进行维度分析,为每列建立维度值索引表,以此构建星型模型,最后进行数据重组,将原始数据表分成两个部分:事实表和维表,该事实表不包含维表相关列,且该事实表按行存储,将维表、维度值索引表按列存储。本发明在逻辑上基于星型模型进行数据抽象;在存储上将I/O敏感的列进行列式存储,并基于列值域进行逻辑压缩,降低I/O开销与存储空间;在应用上,基于统一视图/表,屏蔽数据存储的异构性,减轻应用开发的复杂性。
-
公开(公告)号:CN104407879B
公开(公告)日:2018-02-02
申请号:CN201410566127.X
申请日:2014-10-22
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F9/445
Abstract: 本发明公开了一种电网时序大数据并行加载方法,以解决多客户端并行加载海量历史时序数据时遇到的不能并行加载而产生等待现象的问题。本发明通过对索引映射表做分区处理、根据待加载的数据量的大小对历史时序数据存储表做分区预处理、根据各数据节点上所分配的历史时序数据存储表分区的范围,对待加载的海量历史时序数据做保持数据局部性的处理,经过上述处理后能够有效减少并行加载海量历史时序数据时多客户端读写索引映射表文件遇到的磁盘IO冲突和集群不同节点之间网络通信开销,避免单节点加载海量历史时序数据时负载过重带来的性能问题。本方法能充分利用分布式并行处理能力,大大减少海量历史时序数据加载的时间。
-
公开(公告)号:CN104104738B
公开(公告)日:2018-02-02
申请号:CN201410385448.X
申请日:2014-08-06
Applicant: 江苏瑞中数据股份有限公司
Abstract: 本发明公开了一种基于FTP的数据交换系统,以实现电力系统数据的统一交换,本发明整个系统主要包括引擎(节点)、规则库、管理服务器、管理工具、开发接口,本数据交换系统基于标准数据规范和接口标准,配置数据交换服务,通过不同方式实现第三方系统数据的数据汇聚、整合与发布。本系统包括的功能模块主要有:数据提取模块、正向数据加工处理模块、批量数据传输模块、反向数据加工处理模块和数据存放模块。通过采用本发明的技术方案,能够实现企业或机构信息系统“横向集成,纵向贯通”的共享通道,实现对大规模数据的准确传输,保障电力系统中上下信息畅通、数据共享与应用集成。
-
公开(公告)号:CN104331432A
公开(公告)日:2015-02-04
申请号:CN201410567859.0
申请日:2014-10-22
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F17/30
CPC classification number: G06F16/2474 , G06F16/22
Abstract: 本发明公开了一种适用于截面访问模式的电网海量时序数据存取方法,以实现在不影响写入性能的情况下同时兼顾时间序列查询及时间截面查询场景下的查询效率。本发明在系统中建立三张表,分别为Uid表、Time-series时间序列数据表、Time-point时间截面数据表,将电网时序数据分别存入时间序列数据表以及时间截面数据表中,使得相同时间段的电网数据在物理磁盘位置相邻,另外,同一时间点不同电网设备的电网数据在磁盘位置也相邻,这样可以保证按照时间序列以及按照时间截面这两种方式查询的效率。
-
公开(公告)号:CN104991741B
公开(公告)日:2018-02-02
申请号:CN201510355540.6
申请日:2015-06-24
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F3/06
Abstract: 本发明公开了一种基于键值模型的情境适配电网大数据存储方法,以大幅提升实时数据的加载和查询性能,本发明将批量查询和断面查询定义为不同应用情境,根据情境定制不同键。对于具体的数据存储,根据键值进行排序,以提升数据定位的效率;对于值的构成,采用聚簇的思想,在同一个值中存放一批相关联的测点值。本发明方法能够满足不同的应用对于实时数据不同的访问需求,有效提升访问效率,并且节约磁盘空间,大大提升了存取效率。
-
公开(公告)号:CN104657426B
公开(公告)日:2018-07-03
申请号:CN201510033610.6
申请日:2015-01-22
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F17/30
Abstract: 本发明公开了一种基于统一视图的行列混合数据存储模型的建立方法,以同时满足行列敏感应用的不同需求。本发明方法具体为在原始数据结构的基础上进行数据抽象,标识出需要列式存储的列,对这些列进行维度分析,为每列建立维度值索引表,以此构建星型模型,最后进行数据重组,将原始数据表分成两个部分:事实表和维表,该事实表不包含维表相关列,且该事实表按行存储,将维表、维度值索引表按列存储。本发明在逻辑上基于星型模型进行数据抽象;在存储上将I/O敏感的列进行列式存储,并基于列值域进行逻辑压缩,降低I/O开销与存储空间;在应用上,基于统一视图/表,屏蔽数据存储的异构性,减轻应用开发的复杂性。
-
公开(公告)号:CN106844545A
公开(公告)日:2017-06-13
申请号:CN201611260595.X
申请日:2016-12-30
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F17/30
CPC classification number: G06F17/30595 , G06F17/30327 , G06F17/30483 , G06F17/30557
Abstract: 本发明公开了一种基于标准SQL的双引擎数据库系统的实现方法,提供一种双引擎数据库系统,选择关系数据库作为关系数据引擎以及选择实时数据库作为时序数据引擎,将关系数据引擎和时序数据引擎作为双引擎数据库系统,该系统包括SQL查询编译器和查询计划执行器,SQL查询编译器包括查询分析模块和查询重写模块;该方法逻辑上将时序数据映射到关系数据库的外部表,在统一表空间对时序数据和关系数据进行管理,为业务系统提供标准的SQL语法进行统一数据访问;使用标准SQL访问两种数据库,实现了实时数据和关系数据的统一管理,屏蔽了不同数据库在访问方式、存储方式上的差异,简化业务系统实现的复杂性。
-
公开(公告)号:CN104991741A
公开(公告)日:2015-10-21
申请号:CN201510355540.6
申请日:2015-06-24
Applicant: 江苏瑞中数据股份有限公司
IPC: G06F3/06
Abstract: 本发明公开了一种基于键值模型的情境适配电网大数据存储方法,以大幅提升实时数据的加载和查询性能,本发明将批量查询和断面查询定义为不同应用情境,根据情境定制不同键。对于具体的数据存储,根据键值进行排序,以提升数据定位的效率;对于值的构成,采用聚簇的思想,在同一个值中存放一批相关联的测点值。本发明方法能够满足不同的应用对于实时数据不同的访问需求,有效提升访问效率,并且节约磁盘空间,大大提升了存取效率。
-
-
-
-
-
-
-
-
-