公开(公告)号：CN118312333B

公开(公告)日：2024-10-18

申请号：CN202410743233.4

申请日：2024-06-07

申请人： 支付宝(杭州)信息技术有限公司

发明人： 张锐 ,  赵军平 ,  徐家乐

IPC分类号： G06F9/50 ,  G06T1/60

摘要： 本说明书的实施例提供了一种基于GPU多stream并发的显存复用方法和装置。在该基于GPU多stream并发的显存复用方法中，至少两个GPU stream并发执行，各个GPU stream中包括以执行顺序排列的GPU指令，在默认stream复用模式下，可以根据待分配显存的GPU指令所属的当前GPU stream对应的已释放显存以及当前GPU stream是否为默认stream，判断用于存储已释放显存块的显存池中是否存在候选可复用显存块；若存在候选可复用显存块，从候选可复用显存块中确定出为待分配显存的GPU指令分配的显存块。

公开(公告)号：CN118312333A

公开(公告)日：2024-07-09

申请号：CN202410743233.4

申请日：2024-06-07

申请人： 支付宝(杭州)信息技术有限公司

发明人： 张锐 ,  赵军平 ,  徐家乐

IPC分类号： G06F9/50 ,  G06T1/60

摘要： 本说明书的实施例提供了一种基于GPU多stream并发的显存复用方法和装置。在该基于GPU多stream并发的显存复用方法中，至少两个GPU stream并发执行，各个GPU stream中包括以执行顺序排列的GPU指令，在默认stream复用模式下，可以根据待分配显存的GPU指令所属的当前GPU stream对应的已释放显存以及当前GPU stream是否为默认stream，判断用于存储已释放显存块的显存池中是否存在候选可复用显存块；若存在候选可复用显存块，从候选可复用显存块中确定出为待分配显存的GPU指令分配的显存块。