基于Ranger策略的HDFS权限收敛灰度上线实现方法

    公开(公告)号:CN118133340B

    公开(公告)日:2024-08-30

    申请号:CN202410177259.7

    申请日:2024-02-08

    摘要: 本发明涉及一种基于Ranger策略的HDFS权限收敛灰度上线实现方法。本方法包括:在Ranger Admin中设置HDFS ACL黑名单策略,把需要将权限全部收敛到Ranger进行集中管理的用户和用户组配置到HDFS ACL黑名单策略中;用户以指定的用户名访问HDFS的某个资源;确认该HDFS资源当前开启了附加Hadoop认证的功能;确认访问的用户名不在HDFS ACL黑名单列表中;对该用户访问的资源的HDFS ACL权限进行判断。本方法可通过Ranger HDFS Plugin指定策略配置,逐步可控地安全、简单且高效地完成对HDFS集群的灰度权限收敛,本方法还可使同一个HDFS集群同时支持多种权限模型,可满足用户和用户组多种权限场景的应用需求。

    配置文件管理方法、装置、设备及介质

    公开(公告)号:CN118550604A

    公开(公告)日:2024-08-27

    申请号:CN202410674777.X

    申请日:2024-05-28

    摘要: 本发明实施例公开了一种配置文件管理方法、装置、设备及介质,该方法包括:在接收到配置文件存储请求时,将获取到的配置文件存储至第一服务器,并基于第一服务器反馈已存储信息;接收已存储信息,并将已存储信息和配置文件的元数据信息存储至数据库中进行管理;元数据信息中包括配置文件所属集群标识、所属组件标识、配置文件版本标识中的至少一个。本发明实施例的技术方案,解决了的问题,实现了对不同集群、不同版本的文件管理,提高文件管理效果,达到保障服务运行稳定性的效果。

    一种基于区块链的数据安全采集方法

    公开(公告)号:CN115086028B

    公开(公告)日:2024-08-27

    申请号:CN202210672828.6

    申请日:2022-06-14

    发明人: 张永

    摘要: 本发明公开了一种基于区块链的数据安全采集方法,适用于一种基于区块链的数据安全采集系统,其特征在于:所述系统包括用户特征分析平台、风险评估模型、动态角色访问控制模型,所述用户特征分析平台用于对私有云环境下的用户访问信息特征化,并对用户的行为进行定义,所述风险评估模型用于对用户行为的风险值进行计算,所述动态角色访问控制模型提出一种能根据用户行为安全值对用户的信任等级进行动态调控的访问控制模型,所述用户特征分析平台的输出分别与风险评估模型、动态角色访问控制模型的输入端电连接,所述用户行为相关的数据包括员工岗位、员工信任等级、活动时间、终端ID、读写记录,具有动态访问控制和减少企业风险的特点。

    基于业务需求数据流图的云计算微服务划分方法和系统

    公开(公告)号:CN114385576B

    公开(公告)日:2024-08-27

    申请号:CN202111568979.9

    申请日:2021-12-21

    申请人: 同济大学

    IPC分类号: G06F16/182 G06F16/901

    摘要: 本发明涉及一种基于业务需求数据流图的云计算微服务划分方法和系统,方法包括:获取数据流图,将该数据流图对应的底层数据流图合并,构成一个整体的全连通数据流图,消除该全连通数据流图中的存储节点;将全连通数据流图中的有向边均改为无向边,然后进行图的广度优先遍历,得到若干连通子图集合;将消除的存储节点和有向边加入各个连通子图集合中,然后在各个连通子图集合中搜索成环路径,得到数据路径集合;根据数据路径集合划分微服务,得到候选微服务集合,用于微服务的划分。与现有技术相比,本发明保证了划分结果微服务的业务内聚性,同时不会出现粒度过大的微服务,且能尽量减少功能在微服务中的重复实现,划分质量较高。

    一种基于区块链的货物报关自动化申报系统

    公开(公告)号:CN118536947A

    公开(公告)日:2024-08-23

    申请号:CN202410945652.6

    申请日:2024-07-15

    发明人: 郭建炜

    摘要: 本发明公开了一种基于区块链的货物报关自动化申报系统,涉及货物报关技术领域,包括货物信息录入、报关申请、报关审核、货物追踪、安全管理、数据分析与报告。本发明通过区块链的去中心化数据库和智能合约自动验证,确保录入的货物信息准确无误,利用区块链的数据加密和不可篡改特性,保护货物信息的隐私和安全,自动化的信息验证和费用计算机制,确保审核过程中所有信息的准确性,减少人为错误,系统自动生成费用清单,减少潜在的纠纷,基于区块链技术的报关系统通过去中心化、不可篡改和高透明度的特点,提高报关效率和安全性,大幅提升国际贸易中的报关效率,减少成本,确保数据安全和透明度,为相关企业和机构带来显著的业务价值。

    分布式元数据管理方法、异地异构元数据管理系统及设备

    公开(公告)号:CN118535537A

    公开(公告)日:2024-08-23

    申请号:CN202411014915.8

    申请日:2024-07-26

    摘要: 本申请涉及一种分布式元数据管理方法、异地异构元数据管理系统及设备。所述方法包括:通过MySQL数据库,在客户端的文件预备写入Hadoop集群时,接收集群节点管理器发送的存储请求;根据存储请求,提取文件的元数据信息生成元数据宽表;根据元数据宽表和节点信息表,利用节点选举策略,获取文件在Hadoop集群上的适配存储节点。由集群节点管理器根据适配存储节点,向核心管理节点发送地址请求。核心管理节点根据地址请求获取数据存储地址,并将文件分裂为奇数份存入数据存储地址对应的位置。采用本申请能够实现独立于Hadoop生态之外产生节点选择策略,无需Hadoop集群具备高端性能,即可保证集群的可靠性和可拓展性。

    一种日志监控方法、设备及介质
    28.
    发明公开

    公开(公告)号:CN118535531A

    公开(公告)日:2024-08-23

    申请号:CN202310168384.7

    申请日:2023-02-22

    发明人: 王涛

    摘要: 本申请实施例公开了一种日志监控方法、设备及介质。在数据库与服务器之间搭建docker swarm集群与日志聚合系统;通过日志聚合系统获取docker swarm集群各节点对应的日志信息;对日志信息进行日志标签选择,将日志标签与日志信息进行关联处理,并将选择的标签添加入日志信息索引中;获取日志过滤信息,基于日志过滤信息与日志标签对日志信息进行过滤,以得到目标日志信息;其中,日志过滤信息包括一个或多个日志搜索表达式。通过上述方法降低日志监控过程中所需的成本。

    一种分布式文件智能管理系统及方法

    公开(公告)号:CN117762884B

    公开(公告)日:2024-08-23

    申请号:CN202410194777.X

    申请日:2024-02-22

    发明人: 郭娜

    摘要: 本发明公开了一种分布式文件智能管理系统及方法,包括文件导入模块、文件采集模块、文件安全评估模块、储存硬件采集模块、数据处理模块与信息发送模块;所述文件导入模块用于导入需要进行分布式储存的储存文件;所述文件安全评估模块用于对储存文件进行安全评估获取到文件安全评估信息;所述文件采集模块用于从已经储存的文件中采集各个已储存文件的文件信息;所述储存硬件采集模块用于采集储存设备信息;所述数据处理模块用于对文件信息与储存设备信息进行处理生成文件另存信息与硬件管理信息;本发能够更加全面进行分布式文件的智能管理,更好的保证了储存的文件安全。

    一种基于读写Parquet文件的海量数据处理方法、设备及存储介质

    公开(公告)号:CN118519974A

    公开(公告)日:2024-08-20

    申请号:CN202410597876.2

    申请日:2024-05-14

    发明人: 胡志宏 辛琳 李好

    摘要: 本发明公开了一种基于读写Parquet文件的海量数据处理方法,包括数据下载,根据设定的条件参数,从数据源中抽取相关的Parquet文件数据至本地新创建的T1Data Table内;数据的过滤和筛选,其为一个分布式数据处理流程,旨在从多个分区文件中提取数据,对其进行分组、去重、合并,并最终将结果保存到本地磁盘上。为了克服现有技术存在的缺陷与不足,本发明的至少一个目的在于提供一种基于读写Parquet文件的海量数据处理方法、设备及存储介质,能够实现高效、快速且可靠的数据处理,且在读取和解析过程中确保数据的完整性和准确性不受损害。