公开(公告)号：US20130173894A1

公开(公告)日：2013-07-04

申请号：US13000621

申请日：2010-09-24

申请人： Shoumeng Yan ,  Sai Luo ,  Xiaocheng Zhou ,  Ying Gao ,  Hu Chen ,  Bratin Saha

发明人： Shoumeng Yan ,  Sai Luo ,  Xiaocheng Zhou ,  Ying Gao ,  Hu Chen ,  Bratin Saha

IPC分类号： G06F9/38

CPC分类号： G06F12/1072 ,  G06F8/447 ,  G06F9/3863 ,  G06F9/3885 ,  G06F9/548 ,  G06F2212/657

摘要： A computing platform may include heterogeneous processors (e.g., CPU and a GPU) to support sharing of virtual functions between such processors. In one embodiment, a CPU side vtable pointer used to access a shared object from the CPU 110 may be used to determine a GPU vtable if a GPU-side table exists. In other embodiment, a shared non-coherent region, which may not maintain data consistency, may be created within the shared virtual memory. The CPU and the GPU side data stored within the shared non-coherent region may have a same address as seen from the CPU and the GPU side. However, the contents of the CPU-side data may be different from that of GPU-side data as shared virtual memory may not maintain coherency during the run-time. In one embodiment, the vptr may be modified to point to the CPU vtable and GPU vtable stored in the shared virtual memory.

摘要翻译： 计算平台可以包括异构处理器（例如，CPU和GPU），以支持这些处理器之间的虚拟功能的共享。 在一个实施例中，如果GPU侧表存在，则用于从CPU 110访问共享对象的CPU侧vtable指针可用于确定GPU vtable。 在另一实施例中，可以在共享虚拟存储器内创建可能不维持数据一致性的共享非相干区域。 存储在共享非相干区域内的CP​​U和GPU侧数据可以具有与CPU和GPU侧所见相同的地址。 然而，CPU侧数据的内容可能与GPU侧数据的内容不同，因为共享虚拟存储器可能在运行期间不能维持一致性。 在一个实施例中，可以修改vptr以指向存储在共享虚拟存储器中的CPU vtable和GPU vtable。

公开(公告)号：US08868848B2

公开(公告)日：2014-10-21

申请号：US12643803

申请日：2009-12-21

申请人： Ying Gao ,  Hu Chen ,  Shoumeng Yan ,  Xiaocheng Zhou ,  Sai Luo ,  Bratin Saha

发明人： Ying Gao ,  Hu Chen ,  Shoumeng Yan ,  Xiaocheng Zhou ,  Sai Luo ,  Bratin Saha

IPC分类号： G06F12/02

CPC分类号： G06F12/109 ,  G06F9/466 ,  G06F9/544 ,  G06F15/167 ,  G06F2212/656 ,  G06F2212/657 ,  G06T1/20

摘要： A computer system may comprise a computer platform and input-output devices. The computer platform may include a plurality of heterogeneous processors comprising a central processing unit (CPU) and a graphics processing unit (GPU) and a shared virtual memory supported by a physical private memory space of at least one heterogeneous processor or a physical shared memory shared by the heterogeneous processor. The CPU (producer) may create shared multi-version data and store such shared multi-version data in the physical private memory space or the physical shared memory. The GPU (consumer) may acquire or access the shared multi-version data.

摘要翻译： 计算机系统可以包括计算机平台和输入 - 输出设备。 计算机平台可以包括多个异构处理器，包括中央处理单元（CPU）和图形处理单元（GPU）以及由至少一个异构处理器或物理共享存储器共享的物理专用存储器空间支持的共享虚拟存储器 由异构处理器。 CPU（生产者）可以创建共享的多版本数据，并将这种共享的多版本数据存储在物理专用存储空间或物理共享存储器中。 GPU（消费者）可以获取或访问共享的多版本数据。

公开(公告)号：US08516220B2

公开(公告)日：2013-08-20

申请号：US13000085

申请日：2010-05-11

申请人： Shoumeng Yan ,  Ying Gao ,  Xiaocheng Zhou ,  Hu Chen ,  Sai Luo ,  Bratin Saha

发明人： Shoumeng Yan ,  Ying Gao ,  Xiaocheng Zhou ,  Hu Chen ,  Sai Luo ,  Bratin Saha

IPC分类号： G06F12/08 ,  G06F12/00

CPC分类号： G06F12/08 ,  G06F12/1009 ,  G06F12/1027 ,  G06F12/1072 ,  G06F17/30575 ,  G06F2212/652

摘要： A page table entry dirty bit system may be utilized to record dirty information for a software distributed shared memory system. In some embodiments, this may improve performance without substantially increasing overhead because the dirty bit recording system is already available in certain processors. By providing extra bits, coherence can be obtained with respect to all the other uses of the existing page table entry dirty bits.

摘要翻译： 可以利用页表条目脏位系统来记录软件分布式共享存储器系统的脏信息。 在一些实施例中，这可以提高性能而不会实质上增加开销，因为脏位记录系统在某些处理器中已经可用。 通过提供额外的位，可以获得关于现有页表条目脏位的所有其他用途的一致性。

公开(公告)号：US08997113B2

公开(公告)日：2015-03-31

申请号：US13000621

申请日：2010-09-24

申请人： Shoumeng Yan ,  Sai Luo ,  Xiaocheng Zhou ,  Ying Gao ,  Hu Chen ,  Bratin Saha

发明人： Shoumeng Yan ,  Sai Luo ,  Xiaocheng Zhou ,  Ying Gao ,  Hu Chen ,  Bratin Saha

IPC分类号： G06F9/44 ,  G06F9/38 ,  G06F9/45 ,  G06F9/54

CPC分类号： G06F12/1072 ,  G06F8/447 ,  G06F9/3863 ,  G06F9/3885 ,  G06F9/548 ,  G06F2212/657

摘要： A computing platform may include heterogeneous processors (e.g., CPU and a GPU) to support sharing of virtual functions between such processors. In one embodiment, a CPU side vtable pointer used to access a shared object from the CPU 110 may be used to determine a GPU vtable if a GPU-side table exists. In other embodiment, a shared non-coherent region, which may not maintain data consistency, may be created within the shared virtual memory. The CPU and the GPU side data stored within the shared non-coherent region may have a same address as seen from the CPU and the GPU side. However, the contents of the CPU-side data may be different from that of GPU-side data as shared virtual memory may not maintain coherency during the run-time. In one embodiment, the vptr may be modified to point to the CPU vtable and GPU vtable stored in the shared virtual memory.

摘要翻译： 计算平台可以包括异构处理器（例如，CPU和GPU），以支持这些处理器之间的虚拟功能的共享。 在一个实施例中，如果GPU侧表存在，则用于从CPU 110访问共享对象的CPU侧vtable指针可用于确定GPU vtable。 在另一实施例中，可以在共享虚拟存储器内创建可能不维持数据一致性的共享非相干区域。 存储在共享非相干区域内的CP​​U和GPU侧数据可以具有与CPU和GPU侧所见相同的地址。 然而，CPU侧数据的内容可能与GPU侧数据的内容不同，因为共享虚拟存储器可能在运行期间不能维持一致性。 在一个实施例中，可以修改vptr以指向存储在共享虚拟存储器中的CPU vtable和GPU vtable。

公开(公告)号：US20120023296A1

公开(公告)日：2012-01-26

申请号：US13000085

申请日：2010-05-11

申请人： Shoumeng Yan ,  Ying Gao ,  Xiaocheng Zhou ,  Hu Chen ,  Sai Luo ,  Bratin Saha

发明人： Shoumeng Yan ,  Ying Gao ,  Xiaocheng Zhou ,  Hu Chen ,  Sai Luo ,  Bratin Saha

IPC分类号： G06F12/00

CPC分类号： G06F12/08 ,  G06F12/1009 ,  G06F12/1027 ,  G06F12/1072 ,  G06F17/30575 ,  G06F2212/652

摘要： A page table entry dirty bit system may be utilized to record dirty information for a software distributed shared memory system. In some embodiments, this may improve performance without substantially increasing overhead because the dirty bit recording system is already available in certain processors. By providing extra bits, coherence can be obtained with respect to all the other uses of the existing page table entry dirty bits.

摘要翻译： 可以利用页表条目脏位系统来记录软件分布式共享存储器系统的脏信息。 在一些实施例中，这可以提高性能而不会实质上增加开销，因为脏位记录系统在某些处理器中已经可用。 通过提供额外的位，可以获得关于现有页表条目脏位的所有其他用途的一致性。

公开(公告)号：US20110153957A1

公开(公告)日：2011-06-23

申请号：US12643803

申请日：2009-12-21

申请人： Ying Gao ,  Hu Chen ,  Shoumeng Yan ,  Xiaocheng Zhou ,  Sai Luo ,  Bratin Saha

发明人： Ying Gao ,  Hu Chen ,  Shoumeng Yan ,  Xiaocheng Zhou ,  Sai Luo ,  Bratin Saha

IPC分类号： G06F12/00 ,  G06F12/16 ,  G06F12/08

CPC分类号： G06F12/109 ,  G06F9/466 ,  G06F9/544 ,  G06F15/167 ,  G06F2212/656 ,  G06F2212/657 ,  G06T1/20

摘要： A computer system may comprise a computer platform and input-output devices. The computer platform may include a plurality of heterogeneous processors comprising a central processing unit (CPU) and a graphics processing unit) GPU and a shared virtual memory supported by a physical private memory space of at least one heterogeneous processor or a physical shared memory shared by the heterogeneous processor. The CPU (producer) may create shared multi-version data and store such shared multi-version data in the physical private memory space or the physical shared memory. The GPU (consumer) may acquire or access the shared multi-version data.

摘要翻译： 计算机系统可以包括计算机平台和输入 - 输出设备。 计算机平台可以包括多个异构处理器，包括中央处理单元（CPU）和图形处理单元）GPU和由至少一个异构处理器的物理专用存储器空间支持的共享虚拟存储器或由 异构处理器。 CPU（生产者）可以创建共享的多版本数据，并将这种共享的多版本数据存储在物理专用存储空间或物理共享存储器中。 GPU（消费者）可以获取或访问共享的多版本数据。

公开(公告)号：US08719839B2

公开(公告)日：2014-05-06

申请号：US13504972

申请日：2009-10-30

申请人： Shoumeng Yan ,  Xiaocheng Zhou ,  Ying Gao ,  Mohan Rajagopalan ,  Rajiv Deodhar ,  David Putzolu ,  Clark Nelson ,  Milind Girkar ,  Robert Geva ,  Tiger Chen ,  Sai Luo ,  Stephen Junkins ,  Bratin Saha ,  Ravi Narayanaswamy ,  Patrick Xi

发明人： Shoumeng Yan ,  Xiaocheng Zhou ,  Ying Gao ,  Mohan Rajagopalan ,  Rajiv Deodhar ,  David Putzolu ,  Clark Nelson ,  Milind Girkar ,  Robert Geva ,  Tiger Chen ,  Sai Luo ,  Stephen Junkins ,  Bratin Saha ,  Ravi Narayanaswamy ,  Patrick Xi

IPC分类号： G06F9/44 ,  G06F9/45 ,  G06F15/00

CPC分类号： G06F9/544 ,  G06F9/547

摘要： A computer system may comprise a computer platform and input-output devices. The computer platform may include a plurality of heterogeneous processors comprising a central processing unit (CPU) and a graphics processing unit) GPU, for example. The GPU may be coupled to a GPU compiler and a GPU linker/loader and the CPU may be coupled to a CPU compiler and a CPU linker/loader. The user may create a shared object in an object oriented language and the shared object may include virtual functions. The shared object may be fine grain partitioned between the heterogeneous processors. The GPU compiler may allocate the shared object to the CPU and may create a first and a second enabling path to allow the GPU to invoke virtual functions of the shared object. Thus, the shared object that may include virtual functions may be shared seamlessly between the CPU and the GPU.

摘要翻译： 计算机系统可以包括计算机平台和输入 - 输出设备。 计算机平台可以包括例如包括中央处理单元（CPU）和图形处理单元（GPU）的多个异构处理器。 GPU可以耦合到GPU编译器和GPU链接器/加载器，并且CPU可以耦合到CPU编译器和CPU链接器/加载器。 用户可以以面向对象的语言创建共享对象，并且共享对象可以包括虚拟功能。 共享对象可以是异构处理器之间的细粒度分区。 GPU编译器可以将共享对象分配给CPU，并且可以创建第一和第二启用路径以允许GPU调用共享对象的虚拟功能。 因此，可以包括虚拟功能的共享对象可以在CPU和GPU之间无缝共享。

公开(公告)号：US20130061240A1

公开(公告)日：2013-03-07

申请号：US13504972

申请日：2009-10-30

申请人： Shoumeng Yan ,  Xiaocheng Zhou ,  Ying Gao ,  Mohan Rajagopalan ,  Rajiv Deodhar ,  David Putzolu ,  Clark Nelson ,  Milind Girkar ,  Robert Geva ,  Tiger Chen ,  Sai Luo ,  Stephen Junkins ,  Bratin Saha ,  Ravi Narayanaswamy ,  Patrick Xi

发明人： Shoumeng Yan ,  Xiaocheng Zhou ,  Ying Gao ,  Mohan Rajagopalan ,  Rajiv Deodhar ,  David Putzolu ,  Clark Nelson ,  Milind Girkar ,  Robert Geva ,  Tiger Chen ,  Sai Luo ,  Stephen Junkins ,  Bratin Saha ,  Ravi Narayanaswamy ,  Patrick Xi

IPC分类号： G06F13/00

CPC分类号： G06F9/544 ,  G06F9/547

摘要： A computer system may comprise a computer platform and input-output devices. The computer platform may include a plurality of heterogeneous processors comprising a central processing unit (CPU) and a graphics processing unit) GPU, for example. The GPU may be coupled to a GPU compiler and a GPU linker/loader and the CPU may be coupled to a CPU compiler and a CPU linker/loader. The user may create a shared object in an object oriented language and the shared object may include virtual functions. The shared object may be fine grain partitioned between the heterogeneous processors. The GPU compiler may allocate the shared object to the CPU and may create a first and a second enabling path to allow the GPU to invoke virtual functions of the shared object. Thus, the shared object that may include virtual functions may be shared seamlessly between the CPU and the GPU.

摘要翻译： 计算机系统可以包括计算机平台和输入 - 输出设备。 计算机平台可以包括例如包括中央处理单元（CPU）和图形处理单元（GPU）的多个异构处理器。 GPU可以耦合到GPU编译器和GPU链接器/加载器，并且CPU可以耦合到CPU编译器和CPU链接器/加载器。 用户可以以面向对象的语言创建共享对象，并且共享对象可以包括虚拟功能。 共享对象可以是异构处理器之间的细粒度分区。 GPU编译器可以将共享对象分配给CPU，并且可以创建第一和第二启用路径以允许GPU调用共享对象的虚拟功能。 因此，可以包括虚拟功能的共享对象可以在CPU和GPU之间无缝共享。

公开(公告)号：US20140306972A1

公开(公告)日：2014-10-16

申请号：US14173071

申请日：2014-02-05

申请人： Xiaocheng Zhou ,  Shoumeng Yan ,  Ying Gao ,  Hu Chen ,  Peinan Zhang ,  Mohan Rajagopalan ,  Avi Mendelson ,  Bratin Saha

发明人： Xiaocheng Zhou ,  Shoumeng Yan ,  Ying Gao ,  Hu Chen ,  Peinan Zhang ,  Mohan Rajagopalan ,  Avi Mendelson ,  Bratin Saha

IPC分类号： G06T1/60

CPC分类号： G06F9/544 ,  G06F12/0815 ,  G06F12/084 ,  G06F12/1009 ,  G06F12/1063 ,  G06F12/1072 ,  G06F12/1081 ,  G06F12/109 ,  G06F2212/161 ,  G06F2212/622 ,  G06F2212/656 ,  G06F2212/657 ,  G06F2212/682 ,  G06T1/20 ,  G06T1/60

摘要： Embodiments of the invention provide language support for CPU-GPU platforms. In one embodiment, code can be flexibly executed on both the CPU and GPU. CPU code can offload a kernel to the GPU. That kernel may in turn call preexisting libraries on the CPU, or make other calls into CPU functions. This allows an application to be built without requiring the entire call chain to be recompiled. Additionally, in one embodiment data may be shared seamlessly between CPU and GPU. This includes sharing objects that may have virtual functions. Embodiments thus ensure the right virtual function gets invoked on the CPU or the GPU if a virtual function is called by either the CPU or GPU.

摘要翻译： 本发明的实施例提供对CPU-GPU平台的语言支持。 在一个实施例中，可以在CPU和GPU两者上灵活地执行代码。 CPU代码可以将内核卸载到GPU。 该内核可能会调用CPU上的预先存在的库，或者调用其他CPU函数。 这允许构建应用程序，而不需要重新编译整个调用链。 此外，在一个实施例中，数据可以在CPU和GPU之间无缝共享。 这包括共享可能具有虚拟功能的对象。 因此，如果CPU或GPU调用虚拟功能，这些实施例可以确保在CPU或GPU上调用正确的虚拟功能。

公开(公告)号：US20100118041A1

公开(公告)日：2010-05-13

申请号：US12317853

申请日：2008-12-30

申请人： Hu Chen ,  Ying Gao ,  Zhou Xiaocheng ,  Shoumeng Yan ,  Peinan Zhang ,  Mohan Rajagopalan ,  Jesse Fang ,  Avi Mendelson ,  Bratin Saha

发明人： Hu Chen ,  Ying Gao ,  Zhou Xiaocheng ,  Shoumeng Yan ,  Peinan Zhang ,  Mohan Rajagopalan ,  Jesse Fang ,  Avi Mendelson ,  Bratin Saha

IPC分类号： G06F15/167

CPC分类号： G06F9/544 ,  G06F12/0815 ,  G06F12/084 ,  G06F12/1009 ,  G06F12/1063 ,  G06F12/1072 ,  G06F12/1081 ,  G06F12/109 ,  G06F2212/161 ,  G06F2212/622 ,  G06F2212/656 ,  G06F2212/657 ,  G06F2212/682 ,  G06T1/20 ,  G06T1/60

摘要： Embodiments of the invention provide a programming model for CPU-GPU platforms. In particular, embodiments of the invention provide a uniform programming model for both integrated and discrete devices. The model also works uniformly for multiple GPU cards and hybrid GPU systems (discrete and integrated). This allows software vendors to write a single application stack and target it to all the different platforms. Additionally, embodiments of the invention provide a shared memory model between the CPU and GPU. Instead of sharing the entire virtual address space, only a part of the virtual address space needs to be shared. This allows efficient implementation in both discrete and integrated settings.

摘要翻译： 本发明的实施例提供了一种用于CPU-GPU平台的编程模型。 特别地，本发明的实施例为集成和分立设备提供统一的编程模型。 该模型还适用于多个GPU卡和混合GPU系统（分立和集成）。 这允许软件供应商编写单个应用程序堆栈并将其定位到所有不同的平台。 另外，本发明的实施例提供了CPU和GPU之间的共享存储器模型。 而不是共享整个虚拟地址空间，只需要共享虚拟地址空间的一部分。 这允许在离散和集成设置中有效实现。