本发明提供的一种GPU虚拟化管理系统和方法，系统包括：用户交互模块、应用服务模块和KVM底层模块；应用服务模块，用于根据交互指令生成资源分配指令，并将资源分配指令发送至KVM底层模块；KVM底层模块，用于根据所述资源分配指令，获取其对应的虚拟GPU，并将虚拟GPU挂载至预设虚拟机中。本发明通过根据用户的交互指令生成资源分配指令，并通过资源分配指令为用户分配虚拟GPU资源，从而实现了物理GPU资源虚拟化使用，多个用户分段时间共享同一物理GPU资源的目的，进而可以在存在多个用户需要使用GPU资源时为每个用户合理分配虚拟GPU资源，有效降低了GPU资源的空闲率。