公开(公告)号：US07631307B2

公开(公告)日：2009-12-08

申请号：US10728649

申请日：2003-12-05

申请人： Perry H. Wang ,  Hong Wang ,  John P. Shen ,  Ashok N. Seshadri ,  Anthony N. Mah ,  William R. Greene ,  Ravi K. Chandran ,  Piyush Desai ,  Steve Shih-wei Liao

发明人： Perry H. Wang ,  Hong Wang ,  John P. Shen ,  Ashok N. Seshadri ,  Anthony N. Mah ,  William R. Greene ,  Ravi K. Chandran ,  Piyush Desai ,  Steve Shih-wei Liao

IPC分类号： G06F9/46 ,  G06F3/00 ,  G06F15/00

CPC分类号： G06F9/4843 ,  G06F9/3009 ,  G06F9/3851 ,  G06F9/542

摘要： A virtual multithreading hardware mechanism provides multi-threading on a single-threaded processor. Thread switches are triggered by user-defined triggers. Synchronous triggers may be defined in the form of special trigger instructions. Asynchronous triggers may be defined via special marking instructions that identify an asynchronous trigger condition. The asynchronous trigger condition may be based on a plurality of atomic processor events. Minimal context information, such as only an instruction pointer address, is maintained by the hardware upon a thread switch. In contrast to traditional simultaneous multithreading schemes, the virtual multithreading hardware provides thread switches that are transparent to an operating system and that may be performed without operating system intervention.

摘要翻译： 虚拟多线程硬件机制在单线程处理器上提供多线程。 线程切换由用户定义的触发器触发。 可以以特殊触发指令的形式定义同步触发。 可以通过标识异步触发条件的特殊标记指令定义异步触发。 异步触发条件可以基于多个原子处理器事件。 在线程切换时，由硬件维护的最小上下文信息，例如仅指令指针地址。 与传统的同时多线程方案相反，虚拟多线程硬件提供对操作系统透明的线程切换，可以在不进行操作系统干预的情况下执行。

公开(公告)号：US20100332811A1

公开(公告)日：2010-12-30

申请号：US12879898

申请日：2010-09-10

申请人： Hong Wang ,  Tor M. Aamodt ,  Pedro Marcuello ,  Jared W. Stark, IV ,  John P. Shen ,  Antonio Gonzalez ,  Per Hammarlund ,  Gerolf F. Hoflehner ,  Perry H. Wang ,  Steve Shih-wei Liao

发明人： Hong Wang ,  Tor M. Aamodt ,  Pedro Marcuello ,  Jared W. Stark, IV ,  John P. Shen ,  Antonio Gonzalez ,  Per Hammarlund ,  Gerolf F. Hoflehner ,  Perry H. Wang ,  Steve Shih-wei Liao

IPC分类号： G06F9/38

CPC分类号： G06F9/4843 ,  G06F8/433 ,  G06F9/3009 ,  G06F9/3808 ,  G06F9/3832 ,  G06F9/3842 ,  G06F9/3851

摘要： The latencies associated with retrieving instruction information for a main thread are decreased through the use of a simultaneous helper thread. The helper thread is a speculative prefetch thread to perform instruction prefetch and/or trace pre-build for the main thread.

摘要翻译： 通过使用同时提供的线程来减少与检索主线程的指令信息相关的延迟。 辅助线程是用于为主线程执行指令预取和/或跟踪预构建的推测性预取线程。

公开(公告)号：US07844801B2

公开(公告)日：2010-11-30

申请号：US10632431

申请日：2003-07-31

申请人： Hong Wang ,  Perry H. Wang ,  Jeffery A. Brown ,  Per Hammarlund ,  George Z. Chrysos ,  Doron Orenstein ,  Steve Shih-wei Liao ,  John P. Shen

发明人： Hong Wang ,  Perry H. Wang ,  Jeffery A. Brown ,  Per Hammarlund ,  George Z. Chrysos ,  Doron Orenstein ,  Steve Shih-wei Liao ,  John P. Shen

IPC分类号： G06F7/38 ,  G06F9/00 ,  G06F9/44

CPC分类号： G06F9/3842 ,  G06F9/383 ,  G06F9/3851 ,  G06F12/0862

摘要： Apparatus, system and methods are provided for performing speculative data prefetching in a chip multiprocessor (CMP). Data is prefetched by a helper thread that runs on one core of the CMP while a main program runs concurrently on another core of the CMP. Data prefetched by the helper thread is provided to the helper core. For one embodiment, the data prefetched by the helper thread is pushed to the main core. It may or may not be provided to the helper core as well. A push of prefetched data to the main core may occur during a broadcast of the data to all cores of an affinity group. For at least one other embodiment, the data prefetched by a helper thread is provided, upon request from the main core, to the main core from the helper core's local cache.

摘要翻译： 提供了用于在芯片多处理器（CMP）中执行推测性数据预取的装置，系统和方法。 数据由在CMP的一个核心上运行的辅助线程预取，而主程序在CMP的另一个核心上同时运行。 由辅助线程预取的数据被提供给辅助核心。 对于一个实施例，由辅助线程预取的数据被推送到主核心。 它也可以也可以不被提供给辅助核心。 在将数据广播到亲和组的所有核心的过程中，可能会将预取数据推送到主核心。 对于至少另一个实施例，根据主核心的请求，从辅助核心的本地高速缓存提供由辅助线程预取的数据到主核心。

公开(公告)号：US07404067B2

公开(公告)日：2008-07-22

申请号：US10658072

申请日：2003-09-08

申请人： Tor M. Aamodt ,  Hong Wang ,  Per Hammarlund ,  John P. Shen ,  Steve Shih-wei Liao ,  Perry H. Wang

发明人： Tor M. Aamodt ,  Hong Wang ,  Per Hammarlund ,  John P. Shen ,  Steve Shih-wei Liao ,  Perry H. Wang

IPC分类号： G06F9/38 ,  G06F9/46

CPC分类号： G06F9/3842 ,  G06F9/30101 ,  G06F9/3802 ,  G06F9/383 ,  G06F9/3836 ,  G06F9/384 ,  G06F9/3851 ,  G06F9/3857 ,  G06F9/3859

摘要： Embodiments of an apparatus, system and method enhance the efficiency of processor resource utilization during instruction prefetching via one or more speculative threads. Renamer logic and a map table are utilized to perform filtering of instructions in a speculative thread instruction stream. The map table includes a yes-a-thing bit to indicate whether the associated physical register's content reflects the value that would be computed by the main thread. A thread progress beacon table is utilized to track relative progress of a main thread and a speculative helper thread. Based upon information in the thread progress beacon table, the main thread may effect termination of a helper thread that is not likely to provide a performance benefit for the main thread.

摘要翻译： 装置，系统和方法的实施例通过一个或多个推测性线程增强在指令预取期间处理器资源利用的效率。 利用重命名逻辑和映射表来对推测性线程指令流中的指令进行滤波。 映射表包括一个肯定事件位，用于指示相关联的物理寄存器的内容是否反映由主线程计算的值。 线程进度信标表用于跟踪主线程和推测式辅助线程的相对进度。 基于线程进度信标表中的信息，主线程可能会影响不太可能为主线程提供性能优势的辅助线程的终止。

公开(公告)号：US08095920B2

公开(公告)日：2012-01-10

申请号：US10245548

申请日：2002-09-17

申请人： Steve Shih-wei Liao ,  Perry H. Wang ,  Hong Wang ,  Gerolf F. Hoflehner ,  Daniel M. Lavery ,  John P. Shen

发明人： Steve Shih-wei Liao ,  Perry H. Wang ,  Hong Wang ,  Gerolf F. Hoflehner ,  Daniel M. Lavery ,  John P. Shen

IPC分类号： G06F9/44

CPC分类号： G06F8/4442

摘要： The latencies associated with cache misses or other long-latency instructions in a main thread are decreased through the use of a simultaneous helper thread. The helper thread is a speculative prefetch thread to perform a memory prefetch for the main thread. The instructions for the helper thread are dynamically incorporated into the main thread binary during post-pass operation of a compiler.

摘要翻译： 通过使用同时辅助线程，减少了主线程中的高速缓存未命中或其他长延迟指令的延迟。 辅助线程是为主线程执行内存预取的推测预取线程。 辅助线程的指令在编译器的后通过程中被动态地并入到主线程二进制文件中。

公开(公告)号：US08078831B2

公开(公告)日：2011-12-13

申请号：US12909774

申请日：2010-10-21

申请人： Hong Wang ,  Perry H. Wang ,  Jeffery A. Brown ,  Per Hammarlund ,  George Z. Chrysos ,  Doron Orenstein ,  Steve Shih-wei Liao ,  John P. Shen

发明人： Hong Wang ,  Perry H. Wang ,  Jeffery A. Brown ,  Per Hammarlund ,  George Z. Chrysos ,  Doron Orenstein ,  Steve Shih-wei Liao ,  John P. Shen

IPC分类号： G06F15/00 ,  G06F15/76

CPC分类号： G06F9/3842 ,  G06F9/383 ,  G06F9/3851 ,  G06F12/0862

摘要： Apparatus, system and methods are provided for performing speculative data prefetching in a chip multiprocessor (CMP). Data is prefetched by a helper thread that runs on one core of the CMP while a main program runs concurrently on another core of the CMP. Data prefetched by the helper thread is provided to the helper core. For one embodiment, the data prefetched by the helper thread is pushed to the main core. It may or may not be provided to the helper core as well. A push of prefetched data to the main core may occur during a broadcast of the data to all cores of an affinity group. For at least one other embodiment, the data prefetched by a helper thread is provided, upon request from the main core, to the main core from the helper core's local cache.

摘要翻译： 提供了用于在芯片多处理器（CMP）中执行推测性数据预取的装置，系统和方法。 数据由在CMP的一个核心上运行的辅助线程预取，而主程序在CMP的另一个核心上同时运行。 由辅助线程预取的数据被提供给辅助核心。 对于一个实施例，由辅助线程预取的数据被推送到主核心。 它也可以也可以不被提供给辅助核心。 在将数据广播到亲和组的所有核心的过程中，可能会将预取数据推送到主核心。 对于至少另一个实施例，根据主核心的请求，从辅助核心的本地高速缓存提供由辅助线程预取的数据到主核心。

公开(公告)号：US20110067011A1

公开(公告)日：2011-03-17

申请号：US12949630

申请日：2010-11-18

申请人： Hong Wang ,  Perry H. Wang ,  Ross David Weldon ,  Scott M. Ettinger ,  Hideki Saito ,  Milind B. Girkar ,  Steve Shih-wei Liao ,  Mohammad R. Haghighat ,  Xinmin Tian ,  John P. Shen ,  Oren Gershon

发明人： Hong Wang ,  Perry H. Wang ,  Ross David Weldon ,  Scott M. Ettinger ,  Hideki Saito ,  Milind B. Girkar ,  Steve Shih-wei Liao ,  Mohammad R. Haghighat ,  Xinmin Tian ,  John P. Shen ,  Oren Gershon

IPC分类号： G06F9/45

CPC分类号： G06F9/544 ,  G06F9/52

摘要： In one embodiment a thread management method identifies in a main program a set of instructions that can be dynamically activated as speculative precomputation threads. A wait/sleep operation is performed on the speculative precomputation threads between thread creation and activation, and progress of non-speculative threads is gauged through monitoring a set of global variables, allowing the speculative precomputation threads to determine its relative progress with respect to non-speculative threads.

摘要翻译： 在一个实施例中，线程管理方法在主程序中标识可以被动态地激活为推测性预计算线程的一组指令。 在线程创建和激活之间的推测预先计算线程上执行等待/休眠操作，并且通过监视一组全局变量来衡量非推测线程的进度，允许推测性预计算线程确定其相对于非线性的非计算线程的相对进度， 投机线。

公开(公告)号：US07814469B2

公开(公告)日：2010-10-12

申请号：US10423633

申请日：2003-04-24

申请人： Hong Wang ,  Tor M. Aamodt ,  Pedro Marcuello ,  Jared W. Stark, IV ,  John P. Shen ,  Antonio González ,  Per Hammarlund ,  Gerolf F. Hoflehner ,  Perry H. Wang ,  Steve Shih-wei Liao

发明人： Hong Wang ,  Tor M. Aamodt ,  Pedro Marcuello ,  Jared W. Stark, IV ,  John P. Shen ,  Antonio González ,  Per Hammarlund ,  Gerolf F. Hoflehner ,  Perry H. Wang ,  Steve Shih-wei Liao

IPC分类号： G06F9/445 ,  G06F9/30 ,  G06F9/40 ,  G06F7/38 ,  G06F13/28

CPC分类号： G06F9/4843 ,  G06F8/433 ,  G06F9/3009 ,  G06F9/3808 ,  G06F9/3832 ,  G06F9/3842 ,  G06F9/3851

摘要： The latencies associated with retrieving instruction information for a main thread are decreased through the use of a simultaneous helper thread. The helper thread is a speculative prefetch thread to perform instruction prefetch and/or trace pre-build for the main thread.

摘要翻译： 通过使用同时提供的线程来减少与检索主线程的指令信息相关的延迟。 辅助线程是用于为主线程执行指令预取和/或跟踪预构建的推测性预取线程。

公开(公告)号：US20110035555A1

公开(公告)日：2011-02-10

申请号：US12909774

申请日：2010-10-21

申请人： Hong Wang ,  Perry H. Wang ,  Jeffery A. Brown ,  Per Hammarlund ,  George Z. Chrysos ,  Doron Orenstein ,  Steve Shih-wei Liao ,  John P. Shen

发明人： Hong Wang ,  Perry H. Wang ,  Jeffery A. Brown ,  Per Hammarlund ,  George Z. Chrysos ,  Doron Orenstein ,  Steve Shih-wei Liao ,  John P. Shen

IPC分类号： G06F12/08 ,  G06F9/44 ,  G06F12/00 ,  G06F9/312

CPC分类号： G06F9/3842 ,  G06F9/383 ,  G06F9/3851 ,  G06F12/0862

摘要： Apparatus, system and methods are provided for performing speculative data prefetching in a chip multiprocessor (CMP). Data is prefetched by a helper thread that runs on one core of the CMP while a main program runs concurrently on another core of the CMP. Data prefetched by the helper thread is provided to the helper core. For one embodiment, the data prefetched by the helper thread is pushed to the main core. It may or may not be provided to the helper core as well. A push of prefetched data to the main core may occur during a broadcast of the data to all cores of an affinity group. For at least one other embodiment, the data prefetched by a helper thread is provided, upon request from the main core, to the main core from the helper core's local cache.

摘要翻译： 提供了用于在芯片多处理器（CMP）中执行推测性数据预取的装置，系统和方法。 数据由在CMP的一个核心上运行的辅助线程预取，而主程序在CMP的另一个核心上同时运行。 由辅助线程预取的数据被提供给辅助核心。 对于一个实施例，由辅助线程预取的数据被推送到主核心。 它也可以也可以不被提供给辅助核心。 在将数据广播到亲和组的所有核心的过程中，可能会将预取数据推送到主核心。 对于至少另一个实施例，根据主核心的请求，从辅助核心的本地高速缓存提供由辅助线程预取的数据到主核心。

公开(公告)号：US20100211940A1

公开(公告)日：2010-08-19

申请号：US12658031

申请日：2010-02-01

申请人： Steve Shih-wei Liao ,  Perry H. Wang ,  Hong Wang ,  Gerolf F. Hoflehner ,  Daniel M. Lavery ,  John P. Shen

发明人： Steve Shih-wei Liao ,  Perry H. Wang ,  Hong Wang ,  Gerolf F. Hoflehner ,  Daniel M. Lavery ,  John P. Shen

IPC分类号： G06F9/45

CPC分类号： G06F8/4442

摘要： The latencies associated with cache misses or other long-latency instructions in a main thread are decreased through the use of a simultaneous helper thread. The helper thread is a speculative prefetch thread to perform a memory prefetch for the main thread. The instructions for the helper thread are dynamically incorporated into the main thread binary during post-pass operation of a compiler.

摘要翻译： 通过使用同时辅助线程，减少了主线程中的高速缓存未命中或其他长延迟指令的延迟。 辅助线程是为主线程执行内存预取的推测预取线程。 辅助线程的指令在编译器的后通过程中被动态地并入到主线程二进制文件中。