一种深度学习推理服务调度方法、系统、设备及存储介质
Abstract:
本发明公开一种深度学习推理服务调度方法、系统、设备及存储介质,涉及计算机软件技术领域,包括:根据当前推理任务的延迟要求,确定所述当前推理任务的延迟敏感类型;当确定所述当前推理任务的延迟敏感类型为延迟敏感时,对所述当前推理任务进行实时调度处理;当确定所述当前推理任务的延迟敏感类型为延迟不敏感时,将所述当前推理任务放置于电价低谷期间进行调度处理。
Patent Agency Ranking
0/0