-
公开(公告)号:CN114840125B
公开(公告)日:2024-04-26
申请号:CN202210321865.2
申请日:2022-03-30
申请人: 曙光信息产业(北京)有限公司
IPC分类号: G06F3/04847 , G06F9/50
摘要: 本申请涉及一种设备资源配置、管理方法、装置、设备、介质和程序产品,该方法包括:计算机设备获取多个外部设备的设备信息,响应于基于第一配置界面触发的第一配置操作,根据第一配置操作中的目标设备的设备信息,对原始资源调度框架进行第一参数配置,得到目标设备的资源调度配置方案;响应于基于第二配置界面触发的第二配置操作,根据第二配置操作中的目标设备的设备信息,对原始资源隔离框架进行第二参数配置,得到目标设备的资源隔离配置方案。在本方案中,计算机设备通过响应第一配置操作和第二配置操作,对原始资源调度框架、原始资源隔离框架进行目标设备的参数配置,实现了对目标设备资源的有效管理、调度、隔离,提高了资源利用率。
-
公开(公告)号:CN114840125A
公开(公告)日:2022-08-02
申请号:CN202210321865.2
申请日:2022-03-30
申请人: 曙光信息产业(北京)有限公司
IPC分类号: G06F3/04847 , G06F9/50
摘要: 本申请涉及一种设备资源配置、管理方法、装置、设备、介质和程序产品,该方法包括:计算机设备获取多个外部设备的设备信息,响应于基于第一配置界面触发的第一配置操作,根据第一配置操作中的目标设备的设备信息,对原始资源调度框架进行第一参数配置,得到目标设备的资源调度配置方案;响应于基于第二配置界面触发的第二配置操作,根据第二配置操作中的目标设备的设备信息,对原始资源隔离框架进行第二参数配置,得到目标设备的资源隔离配置方案。在本方案中,计算机设备通过响应第一配置操作和第二配置操作,对原始资源调度框架、原始资源隔离框架进行目标设备的参数配置,实现了对目标设备资源的有效管理、调度、隔离,提高了资源利用率。
-
公开(公告)号:CN111176584A
公开(公告)日:2020-05-19
申请号:CN201911424993.4
申请日:2019-12-31
申请人: 曙光信息产业(北京)有限公司
IPC分类号: G06F3/06
摘要: 本申请提供一种基于混合内存的数据处理方法及装置。该方法应用于分布式存储系统中的一个节点,分布式存储系统包括多个互相通信连接的节点,每个节点包括HFDD和外存储器,HFDD包括内存和固态硬盘SSD,内存包括随机存储器RAM和NVDIMM,所述方法包括:计算各数据的热度,其中,热度表示对应数据被访问的频繁程度;根据各数据的热度,以及内存、SSD和外存储器分别对应的存储容量将各数据进行存储。本申请实施例中,HFDD是基于RAM+NVM混合内存的容错分布式数据抽象,并且根据数据的热度对数据进行存储,一方面提高了内存的存储容量,另一方面,提高了数据访问的效率。
-
公开(公告)号:CN105681397A
公开(公告)日:2016-06-15
申请号:CN201511025224.9
申请日:2015-12-30
申请人: 曙光信息产业(北京)有限公司
CPC分类号: H04L67/1097 , G06F16/14 , G06F16/182
摘要: 本发明提供了一种网络流量数据存储方法和系统,步骤一,采集网络数据,步骤二,将所述网络数据存储至分布式消息中间件Kafka;步骤三,使用Storm流式计算框架订阅所述Kafka中网络流量数据进行处理;步骤四,将已经进行拓扑处理的网络数据存储到分布式文件系统HDFS以及分布式键值型数据库HBase;步骤五,通过分布式批处理计算框架MapReduce对所述特征向量构建索引系统,并与所述HDFS及所述HBase进行关联。本发明采用大数据技术架构,同时保证各环节的高可靠性与高性能,可应对10gbps的网络环境;同时减少无意义的副本冗余以节省成本;并提供通用的第三方接口,易于其他厂商集成;同时在P级数据量下提供按五元组条件任意组合检索的秒级查询。
-
公开(公告)号:CN105630978A
公开(公告)日:2016-06-01
申请号:CN201510993530.5
申请日:2015-12-25
申请人: 曙光信息产业(北京)有限公司
IPC分类号: G06F17/30
CPC分类号: G06F16/9032
摘要: 本发明公开了一种信息收集方法和装置,该方法包括:通过收集各类身份认证数据,将用户的真实数据与用户的虚拟数据相关联;根据真实数据确认用户真实身份;将与真实数据相关联的所有虚拟数据收集为与用户真实身份相关联的挖掘数据。本发明通过采集多种身份认证数据来实现用户真实身份相关联的挖掘数据,在数据量大的场景下提供有力的数据支持。
-
公开(公告)号:CN113255000A
公开(公告)日:2021-08-13
申请号:CN202110628832.8
申请日:2021-06-04
申请人: 曙光信息产业(北京)有限公司
摘要: 本申请提供一种数据访问控制方法、装置、电子设备及可读存储介质,涉及计算机技术领域。该方法通过对访问主体设置读安全等级和写安全等级,根据读安全等级和/或写安全等级与访问客体的客体安全等级的关系来判断访问主体是否对访问客体具有访问权限,从而可以对访问客体进行安全等级划分,实现对访问客体的分级保护,并且还可以对访问主体的读写范围进行更精细化的访问控制,有效提高数据的安全性。
-
公开(公告)号:CN105389402B
公开(公告)日:2019-04-12
申请号:CN201511008901.6
申请日:2015-12-29
申请人: 曙光信息产业(北京)有限公司
IPC分类号: G06F16/25 , G06F16/27 , G06F16/215
摘要: 本发明提供了一种面向大数据的ETL方法和装置,该方法包括:获取参数配置文件;根据参数配置文件对待同步数据进行参数配置;通过ETL方法对参数配置后的数据进行同步。可以实现多种数据源间数据的导入导出功能,以及通过可视化界面的简单配置,实现基于hdfs数据的多种数据转换操作。
-
公开(公告)号:CN105389402A
公开(公告)日:2016-03-09
申请号:CN201511008901.6
申请日:2015-12-29
申请人: 曙光信息产业(北京)有限公司
IPC分类号: G06F17/30
CPC分类号: G06F17/30566 , G06F17/30303 , G06F17/30575
摘要: 本发明提供了一种面向大数据的ETL方法和装置,该方法包括:获取参数配置文件;根据参数配置文件对待同步数据进行参数配置;通过ETL方法对参数配置后的数据进行同步。可以实现多种数据源间数据的导入导出功能,以及通过可视化界面的简单配置,实现基于hdfs数据的多种数据转换操作。
-
公开(公告)号:CN111176584B
公开(公告)日:2023-10-31
申请号:CN201911424993.4
申请日:2019-12-31
申请人: 曙光信息产业(北京)有限公司 , 中科曙光信息产业成都有限公司
IPC分类号: G06F3/06
摘要: 本申请提供一种基于混合内存的数据处理方法及装置。该方法应用于分布式存储系统中的一个节点,分布式存储系统包括多个互相通信连接的节点,每个节点包括HFDD和外存储器,HFDD包括内存和固态硬盘SSD,内存包括随机存储器RAM和NVDIMM,所述方法包括:计算各数据的热度,其中,热度表示对应数据被访问的频繁程度;根据各数据的热度,以及内存、SSD和外存储器分别对应的存储容量将各数据进行存储。本申请实施例中,HFDD是基于RAM+NVM混合内存的容错分布式数据抽象,并且根据数据的热度对数据进行存储,一方面提高了内存的存储容量,另一方面,提高了数据访问的效率。
-
公开(公告)号:CN113297155A
公开(公告)日:2021-08-24
申请号:CN202110562353.0
申请日:2021-05-21
申请人: 曙光信息产业(北京)有限公司
IPC分类号: G06F16/174 , G06F16/22
摘要: 本申请提供一种数据存储方法、装置及可读存储介质,涉及数据处理技术领域。该方法通过获取待写入目标属性字段下的目标数据,然后采用该属性字段对应的压缩方法对目标数据进行压缩,实现以属性值为单位进行数据压缩,使得在读取某个数据时,可以大大降低数据的读取开销,提升数据的读取性能。并且,通过设置对应关系表来存储各个属性字段对应的压缩方法和压缩参数信息,这样可以针对一张表中的不同属性字段设置不同的压缩方法,或设置相同的压缩方法不同的压缩参数信息,并在属性字段值中存储压缩方法ID,从而可实现针对同行不同列的属性值、同列不同行的属性值采用不同的压缩方法进行压缩,使得压缩更加灵活。
-
-
-
-
-
-
-
-
-