公开(公告)号：US07328433B2

公开(公告)日：2008-02-05

申请号：US10677414

申请日：2003-10-02

申请人： Xinmin Tian ,  Shih-wei Liao ,  Hong Wang ,  Milind Girkar ,  John Shen ,  Perry Wang ,  Grant Haab ,  Gerolf Hoflehner ,  Daniel Lavery ,  Hideki Saito ,  Sanjiv Shah ,  Dongkeun Kim

发明人： Xinmin Tian ,  Shih-wei Liao ,  Hong Wang ,  Milind Girkar ,  John Shen ,  Perry Wang ,  Grant Haab ,  Gerolf Hoflehner ,  Daniel Lavery ,  Hideki Saito ,  Sanjiv Shah ,  Dongkeun Kim

IPC分类号： G06F9/44

CPC分类号： G06F9/3851 ,  G06F8/4442 ,  G06F9/383 ,  G06F9/4843 ,  G06F9/52

摘要： Methods and apparatus for reducing memory latency in a software application are disclosed. A disclosed system uses one or more helper threads to prefetch variables for a main thread to reduce performance bottlenecks due to memory latency and/or a cache miss. A performance analysis tool is used to profile the software application's resource usage and identifies areas in the software application experiencing performance bottlenecks. Compiler-runtime instructions are generated into the software application to create and manage the helper thread. The helper thread prefetches data in the identified areas of the software application experiencing performance bottlenecks. A counting mechanism is inserted into the helper thread and a counting mechanism is inserted into the main thread to coordinate the execution of the helper thread with the main thread and to help ensure the prefetched data is not removed from the cache before the main thread is able to take advantage of the prefetched data.

摘要翻译： 公开了一种用于减少软件应用中的存储器延迟的方法和装置。 所公开的系统使用一个或多个辅助线程来预取主线程的变量，以减少由于存储器延迟和/或高速缓存未命中引起的性能瓶颈。 使用性能分析工具来描述软件应用程序的资源使用情况，并识别遇到性能瓶颈的软件应用程序中的区域。 编译器运行时指令生成到软件应用程序中以创建和管理辅助线程。 辅助线程预取了遇到性能瓶颈的软件应用程序的已识别区域中的数据。 计数机制被插入到辅助线程中，并且计数机制被插入到主线程中以协调辅助线程与主线程的执行，并且有助于确保在主线程可用之前预取数据不被从高速缓存中移除 以利用预取的数据。

公开(公告)号：US20050166039A1

公开(公告)日：2005-07-28

申请号：US10982261

申请日：2004-11-05

申请人： Hong Wang ,  Per Hammarlund ,  Xiang Zou ,  John Shen ,  Xinmin Tian ,  Milind Girkar ,  Perry Wang ,  Piyush Desai

发明人： Hong Wang ,  Per Hammarlund ,  Xiang Zou ,  John Shen ,  Xinmin Tian ,  Milind Girkar ,  Perry Wang ,  Piyush Desai

IPC分类号： G06F9/30 ,  G06F9/38 ,  G06F9/48 ,  G06F11/34

CPC分类号： G06F13/24 ,  G06F9/3005 ,  G06F9/3009 ,  G06F9/30145 ,  G06F9/3851 ,  G06F9/4843 ,  G06F11/3024 ,  G06F11/348 ,  G06F12/0875 ,  G06F2201/86 ,  G06F2201/88 ,  G06F2201/885 ,  G06F2212/452

摘要： Method, apparatus, and program means for a programmable event driven yield mechanism that may activate other threads. In one embodiment, an apparatus includes execution resources to execute a plurality of instructions and a monitor to detect a condition indicating a low level of progress. The monitor can disrupt processing of a program by transferring to a handler in response to detecting the condition indicating a low level of progress. In another embodiment, thread switch logic may be coupled to a plurality of event monitors which monitor events within the multithreading execution logic. The thread switch logic switches threads based at least partially on a programmable condition of one or more of the performance monitors.

摘要翻译： 用于可激活其他线程的可编程事件驱动产量机制的方法，装置和程序装置。 在一个实施例中，一种装置包括执行多个指令的执行资源和用于检测指示低水平进展的状况的监视器。 响应于检测到指示低水平进展的状况，监视器可以通过传送到处理程序来中断程序的处理。 在另一个实施例中，线程切换逻辑可以耦合到监视多线程执行逻辑内的事件的多个事件监视器。 线程开关逻辑至少部分地基于一个或多个性能监视器的可编程状态来切换线程。

公开(公告)号：US08868887B2

公开(公告)日：2014-10-21

申请号：US10982261

申请日：2004-11-05

申请人： Hong Wang ,  Per Hammarlund ,  Xiang Zou ,  John Shen ,  Xinmin Tian ,  Milind Girkar ,  Perry Wang ,  Piyush Desai

发明人： Hong Wang ,  Per Hammarlund ,  Xiang Zou ,  John Shen ,  Xinmin Tian ,  Milind Girkar ,  Perry Wang ,  Piyush Desai

IPC分类号： G06F9/00

CPC分类号： G06F13/24 ,  G06F9/3005 ,  G06F9/3009 ,  G06F9/30145 ,  G06F9/3851 ,  G06F9/4843 ,  G06F11/3024 ,  G06F11/348 ,  G06F12/0875 ,  G06F2201/86 ,  G06F2201/88 ,  G06F2201/885 ,  G06F2212/452

摘要： Method, apparatus, and program means for a programmable event driven yield mechanism that may activate other threads. In one embodiment, an apparatus includes execution resources to execute a plurality of instructions and a monitor to detect a condition indicating a low level of progress. The monitor can disrupt processing of a program by transferring to a handler in response to detecting the condition indicating a low level of progress. In another embodiment, thread switch logic may be coupled to a plurality of event monitors which monitor events within the multithreading execution logic. The thread switch logic switches threads based at least partially on a programmable condition of one or more of the performance monitors.

摘要翻译： 用于可激活其他线程的可编程事件驱动产量机制的方法，装置和程序装置。 在一个实施例中，一种装置包括执行多个指令的执行资源和用于检测指示低水平进展的状况的监视器。 响应于检测到指示低水平进展的状况，监视器可以通过传送到处理程序来中断程序的处理。 在另一个实施例中，线程切换逻辑可以耦合到监视多线程执行逻辑内的事件的多个事件监视器。 线程开关逻辑至少部分地基于一个或多个性能监视器的可编程状态来切换线程。

公开(公告)号：US07603546B2

公开(公告)日：2009-10-13

申请号：US10950693

申请日：2004-09-28

申请人： Satish Narayanasamy ,  Hong Wang ,  John Shen ,  Roni Rosner ,  Yoav Almog ,  Naftali Schwartz ,  Gerolf Hoflehner ,  Daniel LaVery ,  Wei Li ,  Xinmin Tian ,  Milind Girkar ,  Perry Wang

发明人： Satish Narayanasamy ,  Hong Wang ,  John Shen ,  Roni Rosner ,  Yoav Almog ,  Naftali Schwartz ,  Gerolf Hoflehner ,  Daniel LaVery ,  Wei Li ,  Xinmin Tian ,  Milind Girkar ,  Perry Wang

IPC分类号： G06F9/00 ,  G06F9/24 ,  G06F15/177

CPC分类号： G06F8/443 ,  G06F8/433 ,  G06F8/451

摘要： Embodiments of the present invention provide a method, apparatus and system which may include splitting a dependency chain into a set of reduced-width dependency chains; mapping one or more dependency chains onto one or more clustered dependency chain processors, wherein an issue-width of one or more of the clusters is adapted to accommodate a size of the dependency chains; and/or processing in parallel a plurality of dependency chains of a trace. Other embodiments are described and claimed.

摘要翻译： 本发明的实施例提供了一种方法，装置和系统，其可以包括将依赖链分解成一组缩减宽度的依赖性链; 将一个或多个依赖关系链映射到一个或多个聚类依赖链处理器上，其中一个或多个所述簇的问题宽度适于适应所述依赖链的大小; 和/或并行处理多个跟踪的依赖性链。 描述和要求保护其他实施例。

公开(公告)号：US20070079298A1

公开(公告)日：2007-04-05

申请号：US11242489

申请日：2005-09-30

申请人： Xinmin Tian ,  Milind Girkar ,  David Sehr ,  Richard Grove ,  Wei Li ,  Hong Wang ,  Chris Newburn ,  Perry Wang ,  John Shen

发明人： Xinmin Tian ,  Milind Girkar ,  David Sehr ,  Richard Grove ,  Wei Li ,  Hong Wang ,  Chris Newburn ,  Perry Wang ,  John Shen

IPC分类号： G06F9/45

CPC分类号： G06F8/45

摘要： Thread-data affinity optimization can be performed by a compiler during the compiling of a computer program to be executed on a cache coherent non-uniform memory access (cc-NUMA) platform. In one embodiment, the present invention includes receiving a program to be compiled. The received program is then compiled in a first pass and executed. During execution, the compiler collects profiling data using a profiling tool. Then, in a second pass, the compiler performs thread-data affinity optimization on the program using the collected profiling data.

摘要翻译： 线程数据亲和度优化可以在编译要在高速缓存相干非均匀内存访问（cc-NUMA）平台上执行的计算机程序时由编译器执行。 在一个实施例中，本发明包括接收要编译的程序。 接收的程序然后被编译成第一遍并被执行。 在执行期间，编译器使用分析工具收集分析数据。 然后，在第二遍，编译器使用收集的分析数据对程序执行线程数据关联优化。

公开(公告)号：US20050086652A1

公开(公告)日：2005-04-21

申请号：US10677414

申请日：2003-10-02

申请人： Xinmin Tian ,  Shih-Wei Liao ,  Hong Wang ,  Milind Girkar ,  John Shen ,  Perry Wang ,  Grant Haab ,  Gerolf Hoflehner ,  Daniel Lavery ,  Hideki Saito ,  Sanjiv Shah ,  Dongkeun Kim

发明人： Xinmin Tian ,  Shih-Wei Liao ,  Hong Wang ,  Milind Girkar ,  John Shen ,  Perry Wang ,  Grant Haab ,  Gerolf Hoflehner ,  Daniel Lavery ,  Hideki Saito ,  Sanjiv Shah ,  Dongkeun Kim

IPC分类号： G06F9/38 ,  G06F9/45 ,  G06F9/46 ,  G06F9/48

CPC分类号： G06F9/3851 ,  G06F8/4442 ,  G06F9/383 ,  G06F9/4843 ,  G06F9/52

摘要： Methods and apparatus for reducing memory latency in a software application are disclosed. A disclosed system uses one or more helper threads to prefetch variables for a main thread to reduce performance bottlenecks due to memory latency and/or a cache miss. A performance analysis tool is used to profile the software application's resource usage and identifies areas in the software application experiencing performance bottlenecks. Compiler-runtime instructions are generated into the software application to create and manage the helper thread. The helper thread prefetches data in the identified areas of the software application experiencing performance bottlenecks. A counting mechanism is inserted into the helper thread and a counting mechanism is inserted into the main thread to coordinate the execution of the helper thread with the main thread and to help ensure the prefetched data is not removed from the cache before the main thread is able to take advantage of the prefetched data.

摘要翻译： 公开了一种用于减少软件应用中的存储器延迟的方法和装置。 所公开的系统使用一个或多个辅助线程来预取主线程的变量，以减少由于存储器延迟和/或高速缓存未命中引起的性能瓶颈。 使用性能分析工具来描述软件应用程序的资源使用情况，并识别遇到性能瓶颈的软件应用程序中的区域。 编译器运行时指令生成到软件应用程序中以创建和管理辅助线程。 辅助线程预取了遇到性能瓶颈的软件应用程序的已识别区域中的数据。 计数机制被插入到辅助线程中，并且计数机制被插入到主线程中以协调辅助线程与主线程的执行，并且有助于确保在主线程可用之前预取数据不被从高速缓存中移除 以利用预取的数据。

公开(公告)号：US20050081207A1

公开(公告)日：2005-04-14

申请号：US10779193

申请日：2004-02-13

申请人： Gerolf Hoflehner ,  Shih-wei Liao ,  Xinmin Tian ,  Hong Wang ,  Daniel Lavery ,  Perry Wang ,  Dongkeun Kim ,  Milind Girkar ,  John Shen

发明人： Gerolf Hoflehner ,  Shih-wei Liao ,  Xinmin Tian ,  Hong Wang ,  Daniel Lavery ,  Perry Wang ,  Dongkeun Kim ,  Milind Girkar ,  John Shen

IPC分类号： G06F9/45 ,  G06F9/46

CPC分类号： G06F8/441

摘要： Methods and apparatuses for thread management for multi-threading are described herein. In one embodiment, exemplary process includes selecting, during a compilation of code having one or more threads executable in a data processing system, a current thread having a most bottom order, determining resources allocated to one or more child threads spawned from the current thread, and allocating resources for the current thread in consideration of the resources allocated to the current thread's one or more child threads to avoid resource conflicts between the current thread and its one or more child threads. Other methods and apparatuses are also described.

摘要翻译： 本文描述了用于多线程的线程管理的方法和装置。 在一个实施例中，示例性过程包括在具有在数据处理系统中可执行的一个或多个线程的代码的编译期间选择具有最低阶的当前线程，确定分配给从当前线程产生的一个或多个子线程的资源， 并且考虑分配给当前线程的一个或多个子线程的资源来为当前线程分配资源，以避免当前线程与其一个或多个子线程之间的资源冲突。 还描述了其它方法和装置。

公开(公告)号：US07743233B2

公开(公告)日：2010-06-22

申请号：US11100032

申请日：2005-04-05

申请人： Hong Wang ,  Gautham N. Chinya ,  Richard A. Hankins ,  Shivnandan D. Kaushik ,  Bryant Bigbee ,  John Shen ,  Per Hammarlund ,  Xiang Zou ,  Jason W. Brandt ,  Prashant Sethi ,  Douglas M. Carmean ,  Baiju V. Patel ,  Scott Dion Rodgers ,  Ryan N. Rakvic ,  John L. Reid ,  David K. Poulsen ,  Sanjiv M. Shah ,  James Paul Held ,  James Charles Abel

发明人： Hong Wang ,  Gautham N. Chinya ,  Richard A. Hankins ,  Shivnandan D. Kaushik ,  Bryant Bigbee ,  John Shen ,  Per Hammarlund ,  Xiang Zou ,  Jason W. Brandt ,  Prashant Sethi ,  Douglas M. Carmean ,  Baiju V. Patel ,  Scott Dion Rodgers ,  Ryan N. Rakvic ,  John L. Reid ,  David K. Poulsen ,  Sanjiv M. Shah ,  James Paul Held ,  James Charles Abel

IPC分类号： G06F9/00

CPC分类号： G06F9/485 ,  G06F9/30043 ,  G06F9/30076 ,  G06F9/3851 ,  G06F9/3885 ,  G06F9/3891 ,  G06F9/461 ,  G06F9/4881

摘要： Disclosed are embodiments of a system, methods and mechanism for management and translation of mapping between logical sequencer addresses and physical or logical sequencers in a multi-sequencer multithreading system. A mapping manager may manage assignment and mapping of logical sequencer addresses or pages to actual sequencers or frames of the system. Rationing logic associated with the mapping manager may take into account sequencer attributes when such mapping is performed Relocation logic associated with the mapping manager may manage spill and fill of context information to/from a backing store when re-mapping actual sequencers. Sequencers may be allocated singly, or may be allocated as part of partitioned blocks. The mapping manager may also include translation logic that provides an identifier for the mapped sequencer each time a logical sequencer address is used in a user program. Other embodiments are also described and claimed.

摘要翻译： 公开了用于管理和转换逻辑定序器地址与多序列器多线程系统中的物理或逻辑顺控程序之间的映射的系统，方法和机制的实施例。 映射管理器可以管理逻辑顺控程序地址或页面到系统的实际定序器或帧的分配和映射。 与映射管理器相关联的配给逻辑可以在执行这样的映射时考虑定序器属性。当重新映射实际的定序器时，与映射管理器相关联的重定位逻辑可以管理向/从备份存储器的上下文信息的溢出和填充。 排序器可以单独分配，或者可以被分配为分区块的一部分。 映射管理器还可以包括每当在用户程序中使用逻辑定序器地址时为映射的定序器提供标识符的翻译逻辑。 还描述和要求保护其他实施例。

公开(公告)号：US20070157206A1

公开(公告)日：2007-07-05

申请号：US11322823

申请日：2005-12-30

申请人： Ryan Rakvic ,  Richard Hankins ,  Ed Grochowski ,  Hong Wang ,  Murali Annavaram ,  David Poulsen ,  Sanjiv Shah ,  John Shen ,  Gautham Chinya

发明人： Ryan Rakvic ,  Richard Hankins ,  Ed Grochowski ,  Hong Wang ,  Murali Annavaram ,  David Poulsen ,  Sanjiv Shah ,  John Shen ,  Gautham Chinya

IPC分类号： G06F9/46

CPC分类号： G06F9/4893 ,  Y02D10/24

摘要： A first execution time of a first thread executing on a first processing unit of a multiprocessor is determined. A second execution time of a second thread executing on a second processing unit of the multiprocessor is determined, the first and second threads executing in parallel. Power is set to the first and second processing units to effectuate the first and second threads to finish executing at approximately the same time in future executions of the first and second threads. Other embodiments are also described and claimed.

摘要翻译： 确定在多处理器的第一处理单元上执行的第一线程的第一执行时间。 确定在多处理器的第二处理单元上执行的第二线程的第二执行时间，第一和第二线程并行执行。 功率被设置为第一和第二处理单元，以在第一和第二线程的将来执行中在大致相同的时刻实现第一和第二线程完成执行。 还描述和要求保护其他实施例。

公开(公告)号：US20070234276A1

公开(公告)日：2007-10-04

申请号：US11278329

申请日：2006-03-31

申请人： Guilherme Ottoni ,  Xinmin Tian ,  Hong Wang ,  Richard Hankins ,  Wei Li ,  John Shen

发明人： Guilherme Ottoni ,  Xinmin Tian ,  Hong Wang ,  Richard Hankins ,  Wei Li ,  John Shen

IPC分类号： G06F9/44

CPC分类号： G06F8/456 ,  G06F8/314

摘要： Provided are a method, system, and program for parallelizing source code with a compiler. Source code including source code statements is received. The source code statements are processed to determine a dependency of the statements. Multiple groups of statements are determined from the determined dependency of the statements, wherein statements in one group are dependent on one another. At least one directive is inserted in the source code, wherein each directive is associated with one group of statements. Resulting threaded code is generated including the inserted at least one directive. The group of statements to which the directive in the resulting threaded code applies are processed as a separate task. Each group of statements designated by the directive to be processed as a separate task may be processed concurrently with respect to other groups of statements.

摘要翻译： 提供了一种用于将源代码并行化为编译器的方法，系统和程序。 收到包含源代码语句的源代码。 处理源代码语句以确定语句的依赖关系。 根据确定的语句依赖关系确定多组语句，其中一组中的语句彼此依赖。 在源代码中插入至少一个指令，其中每个指令与一组语句相关联。 产生的结果线程代码包括插入的至少一个指令。 生成的线程代码中的指令所适用的语句组被处理为单独的任务。 指定为要作为单独任务处理的指令的每组语句可以与其他语句组并发处理。