一种数据采集方法、装置、设备及存储介质
摘要:
本申请公开了一种数据采集方法、装置、设备及存储介质,涉及数据挖掘技术领域,应用于包含若干数据采集单元的控制节点,包括:将若干数据采集单元分配至若干网站服务器,以便若干数据采集单元从相应网站服务器采集实时数据;获取若干数据采集单元采集到的实时数据,并将实时数据保存至本地数据库,以便基于实时数据更新本地数据库的状态信息;根据预设数据上传周期和状态信息生成针对本地数据库中数据的数据上传任务,并基于预设任务执行策略执行数据上传任务,以完成相应的数据采集过程。这样一来,本申请可以通过不同网站服务器上的数据采集单元采集实时数据,并更新本地数据库的状态信息,以便及时上传数据;能够提高数据采集效率和时效性。
0/0