本说明书公开了一种基于分布式数据的多任务模型训练方法及系统。所述方法包括：循环执行以下步骤，直到满足循环停止条件：针对任一任务，训练节点确定存储目标数据节点；对目标数据节点当前的本地模型进行独立训练，基于独立训练后的目标数据节点本地模型损失函数的梯度确定该任务的梯度；训练节点对多个任务的梯度进行汇总，并利用梯度汇总结果更新训练节点当前的本地模型参数集；训练节点向所述系统中的数据节点下发当前的本地模型参数集，以使所述系统中每个数据节点基于接收到的模型参数集更新本地模型；循环停止后，针对任一任务，将训练节点当前的本地模型参数集作为模型初始参数集，以得到针对该任务的特定模型。