一种图片抓取的方法和系统

    公开(公告)号:CN103645939B

    公开(公告)日:2018-03-27

    申请号:CN201310632698.4

    申请日:2013-11-29

    IPC分类号: G06F9/46

    摘要: 本发明公开了一种图片抓取的方法和系统,其中,所述方法包括:图片抓取服务器接收图片抓取任务,启动所述图片抓取服务器中的图片抓取主进程;其中,所述图片抓取任务中包括待抓取图片的链接地址;通过所述主进程将所述图片抓取任务分发至所述主进程下、满足预置抓取条件的子进程;通过所述子进程根据所述待抓取图片的链接地址,进行所述待抓取图片的异步抓取。通过本发明解决了图片抓取效率低,抓取过程耗时久,不能满足数以亿计的图片抓取任务需求的问题。

    一种图片抓取方法和服务器

    公开(公告)号:CN106897126A

    公开(公告)日:2017-06-27

    申请号:CN201510965284.2

    申请日:2015-12-21

    发明人: 杨涛 吕本伟

    IPC分类号: G06F9/48

    CPC分类号: G06F9/4881

    摘要: 本发明公开了一种图片抓取方法和服务器,该方法包括:多个任务处理器接收图片请求消息,并生成相应的图片抓取任务;任务调度器取出图片抓取任务,根据各任务处理器的负载状态分发给多个任务处理器;各任务处理器根据该图片抓取任务中的待抓取图片的标识信息判断该图片抓取任务是否为已完成任务,是则,从历史已抓取图片中获取该图片抓取任务对应的图片,否则,根据该图片抓取任务中的待抓取图片的地址信息抓取该图片抓取任务对应的图片。本方案通过在将图片抓取任务分发给任务处理器之前对任务处理器的状态判断,以及,通过在进行图片抓取之前对图片抓取任务的状态判断,充分利用了系统资源,实现了任务处理器之间的负载均衡和任务处理方式的灵活可变。

    向计算终端提供图片数据的方法及服务器

    公开(公告)号:CN102984151B

    公开(公告)日:2016-09-28

    申请号:CN201210489225.9

    申请日:2012-11-26

    发明人: 吕本伟 杨涛

    IPC分类号: H04L29/06 H04L29/08 G06F17/30

    摘要: 本发明公开了一种向计算终端提供图片数据的方法及服务器,该方法包括:接收计算终端发送的图片访问请求,图片访问请求包括要访问的图片信息以及计算终端的终端类型信息;根据计算终端的终端类型信息确定是否对图片进行格式转换;当确定对图片进行格式转换时,获取与图片访问请求中的图片信息相对应的原始图片数据,根据预定的格式转换规则将原始图片数据转换为预定格式的图片数据,其中,预定格式的图片数据的字节数小于原始图片数据的字节数;将预定格式的图片数据发送给计算终端。由此解决了移动终端访问图片时由于数据量较大而导致加载速度慢且消耗网络流量多的问题,能够使移动终端快速地加载图片,且降低了图片访问时的流量消耗。

    向计算终端提供图片数据的方法及服务器

    公开(公告)号:CN102938792B

    公开(公告)日:2016-05-04

    申请号:CN201210488925.6

    申请日:2012-11-26

    发明人: 吕本伟 杨涛

    IPC分类号: H04L29/08

    摘要: 本发明公开了一种向计算终端提供图片数据的方法及服务器,该方法包括:接收计算终端发送的图片访问请求,图片访问请求包括要访问的图片信息以及计算终端的终端类型信息;获取与图片访问请求中的图片信息相对应的原始图片数据,原始图片数据包含多帧图片数据;根据计算终端的终端类型信息确定要提供给计算终端的图片数据的帧数,从原始图片数据中提取所确定帧数的数据以构成经处理后的图片数据;以及将经处理后的图片数据发送给计算终端。由此解决了移动终端访问动态图片时加载速度慢且消耗网络流量多的问题,能够使移动终端快速地加载动态图片,且降低了动态图片访问时的流量消耗。

    一种图片抓取的方法和系统

    公开(公告)号:CN103645939A

    公开(公告)日:2014-03-19

    申请号:CN201310632698.4

    申请日:2013-11-29

    IPC分类号: G06F9/46

    摘要: 本发明公开了一种图片抓取的方法和系统,其中,所述方法包括:图片抓取服务器接收图片抓取任务,启动所述图片抓取服务器中的图片抓取主进程;其中,所述图片抓取任务中包括待抓取图片的链接地址;通过所述主进程将所述图片抓取任务分发至所述主进程下、满足预置抓取条件的子进程;通过所述子进程根据所述待抓取图片的链接地址,进行所述待抓取图片的异步抓取。通过本发明解决了图片抓取效率低,抓取过程耗时久,不能满足数以亿计的图片抓取任务需求的问题。

    图片处理方法及其系统
    6.
    发明公开

    公开(公告)号:CN103617040A

    公开(公告)日:2014-03-05

    申请号:CN201310632152.9

    申请日:2013-11-29

    发明人: 杨涛 吕本伟

    IPC分类号: G06F9/44 H04L29/06

    摘要: 本发明公开一种图片处理方法及其系统,其中所述图片处理方法包括:获取预先存储的图片处理请求;根据所获取的所述图片处理请求产生图片处理任务组,其中,所述图片处理任务组具有对应的组处理状态;根据所述组处理状态控制所述图片处理任务组进行图片处理。通过本发明,能够稳定地支持海量(千万级别)的图片请求处理。

    从网络中获取数据的方法和设备

    公开(公告)号:CN103336671A

    公开(公告)日:2013-10-02

    申请号:CN201310238057.0

    申请日:2013-06-17

    发明人: 杨涛 吕本伟

    IPC分类号: G06F3/06

    摘要: 本发明公开了一种根据来自客户端的请求从网络中获取数据的方法和设备,该方法包括步骤,接收来自客户端的数据获取请求;根据该数据获取请求中的信息,从网络中获取数据,将所获取的数据存储到第一存储器中;以及根据该数据获取请求中的信息以及所获取的数据存储在第一存储器中的数据标识生成该数据的元数据信息,并且将所生成的元数据信息存储到第二存储器中。本发明能够解决将抓取的数据和该数据的元数据信息都存储到同一存储器中,使得抓取的数据存储的可靠性降低,并导致抓取数据的操作的效率降低的技术问题。

    向计算终端提供图片数据的方法及服务器

    公开(公告)号:CN102984151A

    公开(公告)日:2013-03-20

    申请号:CN201210489225.9

    申请日:2012-11-26

    发明人: 吕本伟 杨涛

    IPC分类号: H04L29/06 H04L29/08 G06F17/30

    摘要: 本发明公开了一种向计算终端提供图片数据的方法及服务器,该方法包括:接收计算终端发送的图片访问请求,图片访问请求包括要访问的图片信息以及计算终端的终端类型信息;根据计算终端的终端类型信息确定是否对图片进行格式转换;当确定对图片进行格式转换时,获取与图片访问请求中的图片信息相对应的原始图片数据,根据预定的格式转换规则将原始图片数据转换为预定格式的图片数据,其中,预定格式的图片数据的字节数小于原始图片数据的字节数;将预定格式的图片数据发送给计算终端。由此解决了移动终端访问图片时由于数据量较大而导致加载速度慢且消耗网络流量多的问题,能够使移动终端快速地加载图片,且降低了图片访问时的流量消耗。

    向计算终端提供图片数据的方法及服务器

    公开(公告)号:CN105657070B

    公开(公告)日:2019-02-01

    申请号:CN201610190821.5

    申请日:2012-11-26

    发明人: 吕本伟 杨涛

    摘要: 本发明公开了一种向计算终端提供图片数据的方法及服务器,该方法包括:接收计算终端发送的图片访问请求,图片访问请求包括要访问的图片信息以及计算终端的终端类型信息;获取与图片访问请求中的图片信息相对应的原始图片数据,原始图片数据包含多帧图片数据;根据计算终端的终端类型信息确定要提供给计算终端的图片数据的帧数,从原始图片数据中提取所确定帧数的数据以构成经处理后的图片数据;以及将经处理后的图片数据发送给计算终端。由此解决了移动终端访问动态图片时加载速度慢且消耗网络流量多的问题,能够使移动终端快速地加载动态图片,且降低了动态图片访问时的流量消耗。

    数据校验方法、装置和服务器

    公开(公告)号:CN104461761B

    公开(公告)日:2017-11-21

    申请号:CN201410746433.1

    申请日:2014-12-08

    发明人: 吕本伟 罗盼

    IPC分类号: G06F11/07 H04L1/00

    摘要: 本发明提供了一种数据校验方法、装置和服务器,主要涉及互联网技术领域,主要目的在于保证数据的正确性。方法包括:接收外部服务器发送的外部服务器上执行的计算任务中的数据;从接收的数据中提取样本数据;根据预设的校验策略,判断样本数据是否正确;根据样本数据是否正确,来判断外部服务器上的数据是否正确。根据本发明,从外部服务器发送的数据中提取样本数据,并按照既定的校验策略进行校验,样本数据是否正确也就反映了从外部服务器接收的数据是否正确;同时,由于只对样本数据进行了校验计算,所以由数据校验带来的负担非常小。