Invention Grant
- Patent Title: 一种深度学习推理服务调度方法、系统、设备及存储介质
-
Application No.: CN202311680129.7Application Date: 2023-12-08
-
Publication No.: CN117376423BPublication Date: 2024-03-12
- Inventor: 周攀 , 刘玲 , 尔古打机 , 蔡英 , 陈曦 , 马波
- Applicant: 西南民族大学
- Applicant Address: 四川省成都市双流区航空港开发区大件路文星段168号
- Assignee: 西南民族大学
- Current Assignee: 西南民族大学
- Current Assignee Address: 四川省成都市双流区航空港开发区大件路文星段168号
- Agency: 北京元本知识产权代理事务所
- Agent 曹广生
- Main IPC: H04L67/61
- IPC: H04L67/61 ; H04L67/62 ; H04L67/10 ; G06N3/098 ; G06N3/042 ; G06N3/045
Abstract:
本发明公开一种深度学习推理服务调度方法、系统、设备及存储介质,涉及计算机软件技术领域,包括:根据当前推理任务的延迟要求,确定所述当前推理任务的延迟敏感类型;当确定所述当前推理任务的延迟敏感类型为延迟敏感时,对所述当前推理任务进行实时调度处理;当确定所述当前推理任务的延迟敏感类型为延迟不敏感时,将所述当前推理任务放置于电价低谷期间进行调度处理。
Public/Granted literature
- CN117376423A 一种深度学习推理服务调度方法、系统、设备及存储介质 Public/Granted day:2024-01-09
Information query