一种数据处理方法、装置、终端及存储介质

    公开(公告)号:CN113934703A

    公开(公告)日:2022-01-14

    申请号:CN202010609841.8

    申请日:2020-06-29

    发明人: 王玉雷

    IPC分类号: G06F16/21 G06F16/215

    摘要: 本申请提供了一种数据处理方法、装置、终端及存储介质,所述方法包括:确定待处理的数据库的分片列;基于所述分片列中的至少一个满足预设阈值的数,对所述数据库表进行分片,得到至少一个数据库分片;确定所述数据库中满足预设抽取条件的数据记录在所述至少一个数据库分片中的分布;基于所述数据记录的分布,对至少一个所述数据库分片进行调整,以得到目标数据库分片,如此,可以提高对数据库进行分片的效率,得到数据分布均匀的数据库分片。

    一种Flume集群的管理方法、装置及系统

    公开(公告)号:CN110417825A

    公开(公告)日:2019-11-05

    申请号:CN201810385019.0

    申请日:2018-04-26

    IPC分类号: H04L29/08 H04L12/24

    摘要: 本发明公开了一种Flume集群的管理方法、装置及系统,其中,所述方法包括:接收web接口端发送的用于启动Flume任务的启动请求;根据所述Flume集群当前的资源使用情况、所述Flume任务的运行资源、以及所述Flume任务的优先级,将所述Flume任务分配至所述Flume集群中的第一机器;生成针对所述Flume任务的启动程序;根据所述启动程序,控制所述第一机器启动所述Flume任务,并通过Container容器化技术限定所述Flume任务的运行资源,以使所述第一机器可启动多个Flume任务。用于解决现有技术对Flume集群的管理性能较差的技术问题,提高了对Flume集群的管理性能。

    一种数据传输方法、装置、设备及存储介质

    公开(公告)号:CN115756811A

    公开(公告)日:2023-03-07

    申请号:CN202111026374.7

    申请日:2021-09-02

    发明人: 王玉雷

    IPC分类号: G06F9/50 G06F16/27 G06F16/25

    摘要: 本申请公开了一种数据传输方法、装置、设备及存储介质,包括:获取数据传输任务的传输配置信息;根据所述传输配置信息,从至少两个执行引擎中选取目标执行引擎;创建所述目标执行引擎对应的执行引擎实例;基于所述执行引擎实例执行所述数据传输任务;从而根据当前数据传输任务的传输配置信息在多个执行引擎中选取一个适应当前待传输数据的执行引擎,在提高数据传输性能的同时,避免传输资源的浪费。

    一种数据处理方法及装置、存储介质

    公开(公告)号:CN114003351A

    公开(公告)日:2022-02-01

    申请号:CN202010740628.0

    申请日:2020-07-28

    发明人: 吕涛 王玉雷

    IPC分类号: G06F9/46 G06F9/48 G06F9/50

    摘要: 本发明公开了一种数据处理方法及装置、存储介质,包括当接收到客户端的数据处理指令时,对数据处理指令对应的待处理数据进行分片处理,得到多个待处理分片数据;从应用程序管理器队列中,确定空闲的应用程序管理器,应用程序管理器队列包括多个应用程序管理器;利用空闲的应用程序管理器对多个待处理分片数据进行处理;当空闲的应用程序管理器处理完多个待处理分片数据时,释放空闲的应用程序管理器至应用程序管理器队列中,以利用空闲的应用程序管理器对其他数据处理指令对应的数据进行处理,提高了数据处理装置对待处理数据进行处理时的处理速度。