AI服务请求的处理方法、装置、电子设备及存储介质
摘要:
本公开涉及人工智能技术领域,尤其涉及容器技术领域,具体涉及AI服务请求的处理方法、装置、电子设备及存储介质。具体实现方案为:获取AI服务请求;获取AI服务请求相关的AI服务进程的状态;AI服务进程的状态包括:工作状态或回收状态;响应于AI服务进程的状态为工作状态,通过AI服务进程对AI服务请求进行处理;响应于AI服务进程的状态为回收状态,将AI服务进程的状态由回收状态调整至工作状态后,通过AI服务进程对AI服务请求进行处理。本公开可以对调用不频繁的AI服务进程进行回收,AI服务进程可以在需要处理相应的AI服务请求时被快速唤醒,避免AI服务进程占据大量资源,实现了平台资源利用率的提升和服务启动时可用性的提高。
0/0