流式数据处理系统及其操作方法、网络设备及存储介质

    公开(公告)号:CN117992300A

    公开(公告)日:2024-05-07

    申请号:CN202211387554.2

    申请日:2022-11-07

    IPC分类号: G06F11/30

    摘要: 本申请实施例公开了一种流式数据处理系统及其操作方法,属于流式数据处理技术领域。在该方法中,将第一应用程序编译为基于sketch的第二应用程序。由于sketch是一种将计算任务压缩为哈希表的数据结构,而通过哈希表进行运算所需的资源开销较少,因此通过本申请实施例提供的方法可以降低运行应用程序所需的资源开销,从而提高流式数据处理系统的数据处理速率。并且,编译第一应用程序时,考虑了用户设置的第一应用程序的目标精度,因此编译后的第二应用程序也满足用户的精度意图。因此,本申请实施例提供的方法可以实现在满足用户指定的精度意图的情况下提高流式数据处理系统的数据处理速率。

    数据流测量的方法和装置
    2.
    发明公开

    公开(公告)号:CN114584493A

    公开(公告)日:2022-06-03

    申请号:CN202011383567.3

    申请日:2020-11-30

    发明人: 许延伟 黄群 章瑞

    IPC分类号: H04L43/0876 H04L43/04

    摘要: 本申请实施例公开了一种数据流测量的方法和装置,属于通信技术领域。该方法应用于网络设备,包括:接收目标数据包,对于目标数据表的每个数据行,基于数据行对应的第一特征值计算函数和该目标数据包对应的流标识,确定该目标数据包所属的目标数据流在该数据行中对应的数据存储空间。如果该目标数据流是该数据存储空间对应的第一数据流,则基于该目标数据包的测量值,确定该目标数据流的测量值,记录在该数据存储空间中。如果目标数据流不是数据存储空间对应的第一数据流,则基于目标数据包的测量值,在目标数据表中,记录目标数据流的测量值。采用本申请,可以使数据流的测量值误差相对较小。

    网络流测量的方法、网络测量设备以及控制面设备

    公开(公告)号:CN110768856A

    公开(公告)日:2020-02-07

    申请号:CN201810844967.6

    申请日:2018-07-27

    发明人: 黄勇 黄群 张弓

    IPC分类号: H04L12/26 H04L29/06

    摘要: 本申请提供了一种网络流测量的方法、网络测量设备以及控制面设备,该方法适用于包括网络测量设备和控制面设备的系统中,该方法包括:该网络测量设备测量第一数据,该第一数据包括第一类数据结构,该第一类数据结构包括流的第一测量信息,所述第一测量信息与所述流的关键字的比特对应;该网络测量设备向该控制面设备发送该第一数据。基于上述技术方案,该网络测量设备可以基于流关键字的比特级进行测量记录测量信息,从而实现网络流测量的通用性。

    一种网络测量方法及装置

    公开(公告)号:CN113824606B

    公开(公告)日:2023-10-24

    申请号:CN202010565111.2

    申请日:2020-06-19

    IPC分类号: H04L43/50 H04L45/7453

    摘要: 本申请提供一种网络测量方法及装置,用于解决现有技术中网络测量不能兼顾完全准确性和低资源开销的问题。网络测量方法包括源主机获取待发送流对应的主机索引、第一时间窗口和交换机索引,在第一报文中增加主机索引、交换机索引和第一时间窗口,得到第二报文,通过交换机索引对应的交换机向目的主机发送第二报文,并根据第二报文,更新与主机索引和第一时间窗口对应记录的流值,第一报文为流包括的任意报文。通过在第二报文中增加第一时间窗口,可以实现全网中的实体在更新第二报文所属流的流值时,都基于同一时间窗口,从而可实现网络测量的完全准确性,源主机只需更新流值,从而可实现低资源开销。

    网络流测量的方法、网络测量设备以及控制面设备

    公开(公告)号:CN110768856B

    公开(公告)日:2022-01-14

    申请号:CN201810844967.6

    申请日:2018-07-27

    发明人: 黄勇 黄群 张弓

    摘要: 本申请提供了一种网络流测量的方法、网络测量设备以及控制面设备,该方法适用于包括网络测量设备和控制面设备的系统中,该方法包括:该网络测量设备测量第一数据,该第一数据包括第一类数据结构,该第一类数据结构包括流的第一测量信息,所述第一测量信息与所述流的关键字的比特对应;该网络测量设备向该控制面设备发送该第一数据。基于上述技术方案,该网络测量设备可以基于流关键字的比特级进行测量记录测量信息,从而实现网络流测量的通用性。

    处理数据的方法和装置
    6.
    发明授权

    公开(公告)号:CN107665155B

    公开(公告)日:2021-07-09

    申请号:CN201610616360.3

    申请日:2016-07-28

    发明人: 何诚 黄群 李柏晴

    IPC分类号: G06F11/14

    摘要: 本发明公开了一种处理数据的方法和装置,该处理数据的方法不对数据和对数据进行计算处理的过程中形成的状态信息进行全部备份,由处于下游的计算单元对数据和状态信息进行选择性持久化备份,可以提升备份的效率,降低备份数据和状态信息的总量,从而能够更加高效的利用系统的处理能力,提升系统整体的吞吐率。

    一种分布式数据流处理方法及装置

    公开(公告)号:CN104580322B

    公开(公告)日:2019-02-12

    申请号:CN201310513394.6

    申请日:2013-10-25

    IPC分类号: H04L29/08

    摘要: 本发明涉及数据处理领域,尤其涉及一种分布式数据流处理方法及装置,用以解决分布式流处理技术无法对具有同一键值的数据流进行负载均衡处理的问题。本发明实施例的方法包括:第一节点根据需要分配给下一跳工作节点的数据流的键值,确定第二节点为处理所述键值对应的数据流的下一跳工作节点,在确定该第二节点满足设定的负载迁移条件后,将所述需要分配给下一跳工作节点的数据流从所述第二节点迁移至第三节点进行处理,并指示所述第二节点和第三节点同步所述键值对应的数据流的状态信息;采用上述方法,第一节点可以在确定下游的第二节点满足设定的负载迁移条件后,将第二节点负责处理的键值对应的数据流迁移至当前累计负载较小的第三节点进行处理,从而可以针对同一键值的数据流进行负载均衡处理。

    一种识别异常IP数据流的方法、装置和系统

    公开(公告)号:CN105099732B

    公开(公告)日:2018-11-20

    申请号:CN201410175828.0

    申请日:2014-04-28

    发明人: 何诚 黄群 李柏晴

    IPC分类号: H04L12/24

    摘要: 本发明实施例公开了一种识别异常IP数据流的方法、装置和系统,涉及通信领域,用以提高识别准确度。本发明实施例提供的方法包括:在当前时间区间内,接收数据收集节点发送的Y个元素;按照映射算法将Y个元素映射到N个桶中;获取N个桶中的、所映射的所有元素的总流量大于或者等于第一阈值的桶作为目标桶;获取当前时间区间内第一对象在所映射到的r个桶中的r个流量上界;其中,第一对象为映射到目标桶中的任一对象,r个桶中的每个桶中包含针对第一对象的1个流量上界;根据预设的异常对象的类型和当前时间区间内的r个流量上界识别第一对象是否为异常对象;预设的异常对象的类型为大流量对象或大变化对象。

    一种流量测量方法、设备及系统

    公开(公告)号:CN107566206A

    公开(公告)日:2018-01-09

    申请号:CN201710662793.7

    申请日:2017-08-04

    IPC分类号: H04L12/26 H04L12/741

    摘要: 本申请实施例提供一种流量测量方法、设备及系统,涉及通信技术领域,能够降低资源开销,提高网络吞吐率。具体方案为:报文处理设备包括缓冲区,报文处理设备获得待测报文,若缓冲区中已占用的存储空间小于预设阈值,则将待测报文的待测信息写入缓冲区,待测信息包括待测报文的流标识和待测报文的流量,从缓冲区读取待测信息,根据待测信息和第一算法,修改第一测量数据中与待测报文对应的a个数据,a为正整数,若缓冲区中已占用的存储空间大于或者等于预设阈值,则根据待测信息和第二算法,修改第二测量数据中与待测报文对应的w个数据,其中,w为正整数,且w小于a。本申请实施例用于流量测量。

    一种网络测量方法及装置
    10.
    发明公开

    公开(公告)号:CN113824606A

    公开(公告)日:2021-12-21

    申请号:CN202010565111.2

    申请日:2020-06-19

    IPC分类号: H04L12/26 H04L12/743

    摘要: 本申请提供一种网络测量方法及装置,用于解决现有技术中网络测量不能兼顾完全准确性和低资源开销的问题。网络测量方法包括源主机获取待发送流对应的主机索引、第一时间窗口和交换机索引,在第一报文中增加主机索引、交换机索引和第一时间窗口,得到第二报文,通过交换机索引对应的交换机向目的主机发送第二报文,并根据第二报文,更新与主机索引和第一时间窗口对应记录的流值,第一报文为流包括的任意报文。通过在第二报文中增加第一时间窗口,可以实现全网中的实体在更新第二报文所属流的流值时,都基于同一时间窗口,从而可实现网络测量的完全准确性,源主机只需更新流值,从而可实现低资源开销。