公开(公告)号：US09583032B2

公开(公告)日：2017-02-28

申请号：US13488966

申请日：2012-06-05

申请人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman ,  Sheridan Martin Small ,  Stephen G. Latta

发明人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman ,  Sheridan Martin Small ,  Stephen G. Latta

IPC分类号： G06F3/01 ,  G09G3/00

CPC分类号： G09G3/003

摘要： Technology is disclosed herein to help a user navigate through large amounts of content while wearing a see-through, near-eye, mixed reality display device such as a head mounted display (HMD). The user can use a physical object such as a book to navigate through content being presented in the HMD. In one embodiment, a book has markers on the pages that allow the system to organize the content. The book could have real content, but it could be blank other than the markers. As the user flips through the book, the system recognizes the markers and presents content associated with the respective marker in the HMD.

摘要翻译： 本文公开了技术，以帮助用户穿戴大量的内容，同时佩戴透视，近眼，混合的现实显示设备，例如头戴式显示器（HMD）。 用户可以使用诸如书籍的物理对象来浏览在HMD中呈现的内容。 在一个实施例中，书在页面上具有允许系统组织内容的标记。 这本书可以有真实的内容，但除了标记之外它可能是空白的。 当用户翻转书本时，系统识别标记并呈现与HMD中各标记相关的内容。

公开(公告)号：US20140152558A1

公开(公告)日：2014-06-05

申请号：US13691445

申请日：2012-11-30

申请人： Tom Salter ,  Ben J. Sugden ,  Daniel Deptford ,  Robert L. Crocco, JR. ,  Brian E. Keane ,  Christopher E. Miles ,  Laura K. Massey ,  Alex Aben-Athar Kipman

发明人： Tom Salter ,  Ben J. Sugden ,  Daniel Deptford ,  Robert L. Crocco, JR. ,  Brian E. Keane ,  Christopher E. Miles ,  Laura K. Massey ,  Alex Aben-Athar Kipman

IPC分类号： G09G5/377 ,  G06F3/033

CPC分类号： G09G5/377 ,  G02B27/017 ,  G02B2027/0178 ,  G02B2027/0187 ,  G06F3/013 ,  G06F3/0346

摘要： Methods for controlling an augmented reality environment associated with a head-mounted display device (HMD) are described. In some embodiments, a virtual pointer may be displayed to an end user of the HMD and controlled by the end user using motion and/or orientation information associated with a secondary device (e.g., a mobile phone). Using the virtual pointer, the end user may select and manipulate virtual objects within the augmented reality environment, select real-world objects within the augmented reality environment, and/or control a graphical user interface of the HMD. In some cases, the initial position of the virtual pointer within the augmented reality environment may be determined based on a particular direction in which the end user is gazing and/or a particular object at which the end user is currently focusing on or has recently focused on.

摘要翻译： 描述了用于控制与头戴式显示装置（HMD）相关联的增强现实环境的方法。 在一些实施例中，可以向HMD的最终用户显示虚拟指针，并且由最终用户使用与辅助设备（例如，移动电话）相关联的运动和/或定向信息进行控制。 使用虚拟指针，最终用户可以选择和操纵增强现实环境中的虚拟对象，选择增强现实环境中的真实世界对象，和/或控制HMD的图形用户界面。 在一些情况下，虚拟指针在增强现实环境中的初始位置可以基于最终用户注视的特定方向和/或最终用户当前聚焦于或最近聚焦的特定对象来确定 上。

公开(公告)号：US09417692B2

公开(公告)日：2016-08-16

申请号：US13538683

申请日：2012-06-29

申请人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman ,  Jeffrey Neil Margolis

发明人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman ,  Jeffrey Neil Margolis

IPC分类号： G09G5/00 ,  G06F3/01 ,  G02B27/01 ,  G06F1/16 ,  G06F3/03

CPC分类号： G06F3/011 ,  G02B27/017 ,  G02B2027/014 ,  G02B2027/0141 ,  G02B2027/0178 ,  G02B2027/0187 ,  G06F1/163 ,  G06F3/012 ,  G06F3/013 ,  G06F3/0304

摘要： Techniques are provided for rendering, in a see-through, near-eye mixed reality display, a virtual object within a virtual hole, window or cutout. The virtual hole, window or cutout may appear to be within some real world physical object such as a book, table, etc. The virtual object may appear to be just below the surface of the physical object. In a sense, the virtual world could be considered to be a virtual container that provides developers with additional locations for presenting virtual objects. For example, rather than rendering a virtual object, such as a lamp, in a mixed reality display such that appears to sit on top of a real world desk, the virtual object is rendered such that it appears to be located below the surface of the desk.

摘要翻译： 提供了技术，用于在透视，近眼混合现实显示，虚拟孔，窗口或切口内的虚拟对象中渲染。 虚拟孔，窗口或切口可能看起来像一些真实世界的物体，如书，桌等。虚拟对象可能看起来就在物理对象的表面之下。 在某种意义上，虚拟世界可以被认为是一个虚拟容器，为开发人员提供了用于呈现虚拟对象的更多位置。 例如，虚拟对象不是将虚拟对象（例如灯）呈现在混合现实显示器中，使得它似乎位于真实世界桌面的顶部，而是呈现出虚拟对象，使其看起来位于 台。

公开(公告)号：US20160210789A1

公开(公告)日：2016-07-21

申请号：US15083229

申请日：2016-03-28

申请人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, JR. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman

发明人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, JR. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman

IPC分类号： G06T19/00 ,  G02B27/01 ,  G06F3/01

CPC分类号： G06T19/006 ,  G02B27/0172 ,  G02B2027/014 ,  G02B2027/0174 ,  G06F3/013 ,  G06F3/017 ,  G06F3/1431 ,  G09G3/003 ,  G09G2370/022 ,  G09G2380/14 ,  H04N2213/008

摘要： A system for allowing a virtual object to interact with other virtual objects across different spaces within an augmented reality (AR) environment and to transition between the different spaces is described. An AR environment may include a plurality of spaces, each comprising a bounded area or volume within the AR environment. In one example, an AR environment may be associated with a three-dimensional world space and a two-dimensional object space corresponding with a page of a book within the AR environment. A virtual object within the AR environment may be assigned to the object space and transition from the two-dimensional object space to the three-dimensional world space upon the detection of a space transition event. In some cases, a dual representation of the virtual object may be used to detect interactions between the virtual object and other virtual objects in both the world space and the object space.

摘要翻译： 描述了允许虚拟对象在扩充现实（AR）环境内的不同空间之间与其他虚拟对象交互并在不同空间之间转换的系统。 AR环境可以包括多个空间，每个空间包括AR环境内的有界区域或卷。 在一个示例中，AR环境可以与三维世界空间和对应于AR环境中的书页的二维对象空间相关联。 AR环境中的虚拟对象可以被分配给对象空间，并且在检测到空间转换事件时从二维对象空间转换到三维世界空间。 在某些情况下，可以使用虚拟对象的双重表示来检测虚拟对象与世界空间和对象空间中的其他虚拟对象之间的交互。

公开(公告)号：US20150220231A1

公开(公告)日：2015-08-06

申请号：US14687877

申请日：2015-04-15

申请人： Brian E. Keane ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Mathew J. Lamb ,  Alex Aben-Athar Kipman

发明人： Brian E. Keane ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Mathew J. Lamb ,  Alex Aben-Athar Kipman

IPC分类号： G06F3/0483 ,  G06F3/14 ,  G10L21/10

CPC分类号： G06F3/0483 ,  G03H1/2294 ,  G03H2001/2284 ,  G03H2227/02 ,  G03H2270/55 ,  G06F3/011 ,  G06F3/1415 ,  G06T19/006 ,  G09B5/062 ,  G10L15/26 ,  G10L21/10 ,  G10L25/03 ,  G10L2021/105

摘要： A system for generating and displaying holographic visual aids associated with a story to an end user of a head-mounted display device while the end user is reading the story or perceiving the story being read aloud is described. The story may be embodied within a reading object (e.g., a book) in which words of the story may be displayed to the end user. The holographic visual aids may include a predefined character animation that is synchronized to a portion of the story corresponding with the character being animated. A reading pace of a portion of the story may be used to control the playback speed of the predefined character animation in real-time such that the character is perceived to be lip-syncing the story being read aloud. In some cases, an existing book without predetermined AR tags may be augmented with holographic visual aids.

摘要翻译： 描述了一种用于在最终用户正在阅读故事或感知故事被朗读的情况下向头戴式显示装置的终端用户生成和显示与故事相关联的全息视觉辅助装置的系统。 该故事可以体现在阅读对象（例如书籍）中，其中故事的话可以被显示给终端用户。 全息视觉辅助工具可以包括预定义的角色动画，其与与动画的角色对应的故事的一部分同步。 故事的一部分的阅读速度可以用于实时控制预定义的角色动画的播放速度，使得角色被感知为大声朗读故事的唇部同步。 在某些情况下，可以利用全息视觉辅助来增加没有预定AR标签的现有书。

公开(公告)号：US20140368532A1

公开(公告)日：2014-12-18

申请号：US13921053

申请日：2013-06-18

申请人： Brian E. Keane ,  Ben J. Sugden ,  Robert L. Crocco, JR. ,  Daniel Deptford ,  Tom G. Salter ,  Laura K. Massey ,  Alex Aben-Athar Kipman ,  Peter Tobias Kinnebrew ,  Nicholas Ferianc Kamuda

发明人： Brian E. Keane ,  Ben J. Sugden ,  Robert L. Crocco, JR. ,  Daniel Deptford ,  Tom G. Salter ,  Laura K. Massey ,  Alex Aben-Athar Kipman ,  Peter Tobias Kinnebrew ,  Nicholas Ferianc Kamuda

IPC分类号： G02B27/01

CPC分类号： G02B27/017 ,  G06F3/012 ,  G06F3/04815 ,  G06T19/006

摘要： A method and apparatus for the creation of a perspective-locked virtual object having in world space. The virtual object may be consumed) by another user with a consumption device at a location, position, and orientation which is the same as, or proximate to, the location, position, and orientation where the virtual object is created. Objects may have one, few or many allowable consumption locations, positions, and orientations defined by its creator

摘要翻译： 一种用于创建具有世界空间的透视锁定虚拟对象的方法和装置。 虚拟对象可以被消费设备的消费设备所占据的位置，位置和方向消耗，该位置，位置和方向与创建虚拟对象的位置，位置和方向相同或接近。 对象可能具有一个，几个或许多允许的消费位置，位置和由其创建者定义的方向

公开(公告)号：US20140002496A1

公开(公告)日：2014-01-02

申请号：US13538848

申请日：2012-06-29

申请人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, JR. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman

发明人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, JR. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman

IPC分类号： G09G5/00

CPC分类号： G09G5/00 ,  G02B27/017 ,  G02B2027/0134 ,  G02B2027/0138 ,  G02B2027/0178 ,  G02B2027/0187 ,  G06F3/14 ,  G06F3/147 ,  G06T19/006 ,  G09G3/003 ,  G09G2370/022 ,  G09G2380/14

摘要： A system for identifying an AR tag and determining a location for a virtual object within an augmented reality environment corresponding with the AR tag is described. In some environments, the location of a virtual object corresponding with a particular AR tag may be determined by identifying a predefined object, determining an orientation and a scale of the predefined object relative to a head-mounted display device (HMD) based on a model of the predefined object, and inferring the location of the virtual object based on the orientation and the scale of the predefined object. In some cases, an identification of the particular AR tag corresponding with the virtual object may be acquired by aggregating and analyzing individual identity determinations from a plurality of HMDs within an augmented reality environment.

摘要翻译： 描述用于识别AR标签并确定与AR标签相对应的增强现实环境中的虚拟对象的位置的系统。 在一些环境中，可以通过识别预定义对象来确定与特定AR标签对应的虚拟对象的位置，基于模型确定预定对象相对于头戴式显示设备（HMD）的方向和尺度 ，并且基于预定义对象的取向和比例来推断虚拟对象的位置。 在一些情况下，可以通过在增强现实环境内聚合和分析来自多个HMD的个体身份确定来获取与虚拟对象相对应的特定AR标签的识别。

公开(公告)号：US09105210B2

公开(公告)日：2015-08-11

申请号：US13538829

申请日：2012-06-29

申请人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman

发明人： Mathew J. Lamb ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Brian E. Keane ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Alex Aben-Athar Kipman

IPC分类号： G09G5/30 ,  G09G3/00 ,  G06F3/14 ,  G02B27/01

CPC分类号： G09G3/003 ,  G02B27/017 ,  G02B2027/0138 ,  G02B2027/014 ,  G02B2027/0178 ,  G06F3/1431 ,  G09G2370/022 ,  H04N2201/3245 ,  H04N2201/3269

摘要： A system for identifying an AR tag and determining a location for a virtual object within an augmented reality environment corresponding with the AR tag is described. In some environments, including those with viewing obstructions, the identity of the AR tag and the location of a corresponding virtual object may be determined by aggregating individual identity and location determinations from a plurality of head-mounted display devices (HMDs). The virtual object may comprise a shared virtual object that is viewable from each of the plurality of HMDs as existing at a shared location within the augmented reality environment. The shared location may comprise a weighted average of individual location determinations from each of the plurality of HMDs. By aggregating and analyzing individual identity and location determinations, a particular HMD of the plurality of HMDs may display a virtual object without having to identify a corresponding AR tag directly.

摘要翻译： 描述用于识别AR标签并确定与AR标签相对应的增强现实环境中的虚拟对象的位置的系统。 在一些环境中，包括具有观察障碍物的环境中，AR标签的身份和相应的虚拟对象的位置可以通过从多个头戴式显示设备（HMD）聚合个体身份和位置确定来确定。 虚拟对象可以包括可从多个HMD中的每一个查看的共享虚拟对象，其存在于增强现实环境中的共享位置处。 共享位置可以包括来自多个HMD中的每一个的各个位置确定的加权平均。 通过聚合和分析个体身份和位置确定，多个HMD中的特定HMD可以显示虚拟对象，而不必直接识别对应的AR标签。

公开(公告)号：US09035955B2

公开(公告)日：2015-05-19

申请号：US13473268

申请日：2012-05-16

申请人： Brian E. Keane ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Mathew J. Lamb ,  Alex Aben-Athar Kipman

发明人： Brian E. Keane ,  Ben J. Sugden ,  Robert L. Crocco, Jr. ,  Christopher E. Miles ,  Kathryn Stone Perez ,  Laura K. Massey ,  Mathew J. Lamb ,  Alex Aben-Athar Kipman

IPC分类号： G06T13/20 ,  G10L21/10 ,  G06F3/01 ,  G06F3/0483 ,  G06T19/00 ,  G10L15/26 ,  G10L25/03 ,  G09B5/06 ,  G03H1/22

CPC分类号： G06F3/0483 ,  G03H1/2294 ,  G03H2001/2284 ,  G03H2227/02 ,  G03H2270/55 ,  G06F3/011 ,  G06F3/1415 ,  G06T19/006 ,  G09B5/062 ,  G10L15/26 ,  G10L21/10 ,  G10L25/03 ,  G10L2021/105

摘要： A system for generating and displaying holographic visual aids associated with a story to an end user of a head-mounted display device while the end user is reading the story or perceiving the story being read aloud is described. The story may be embodied within a reading object (e.g., a book) in which words of the story may be displayed to the end user. The holographic visual aids may include a predefined character animation that is synchronized to a portion of the story corresponding with the character being animated. A reading pace of a portion of the story may be used to control the playback speed of the predefined character animation in real-time such that the character is perceived to be lip-syncing the story being read aloud. In some cases, an existing book without predetermined AR tags may be augmented with holographic visual aids.

摘要翻译： 描述了一种用于在最终用户正在阅读故事或感知故事被朗读的情况下向头戴式显示装置的终端用户生成和显示与故事相关联的全息视觉辅助装置的系统。 该故事可以体现在阅读对象（例如书籍）中，其中故事的话可以被显示给终端用户。 全息视觉辅助工具可以包括预定义的角色动画，其与与动画的角色对应的故事的一部分同步。 故事的一部分的阅读速度可以用于实时控制预定义的角色动画的播放速度，使得角色被感知为大声朗读故事的唇部同步。 在某些情况下，可以利用全息视觉辅助来增加没有预定AR标签的现有书。

公开(公告)号：US20140368534A1

公开(公告)日：2014-12-18

申请号：US13921113

申请日：2013-06-18

申请人： Tom G. Salter ,  Ben J. Sugden ,  Daniel Deptford ,  Robert L. Crocco, JR. ,  Brian E. Keane ,  Laura K. Massey ,  Alex Aben-Athar Kipman ,  Peter Tobias Kinnebrew ,  Nicholas Ferianc Kamuda

发明人： Tom G. Salter ,  Ben J. Sugden ,  Daniel Deptford ,  Robert L. Crocco, JR. ,  Brian E. Keane ,  Laura K. Massey ,  Alex Aben-Athar Kipman ,  Peter Tobias Kinnebrew ,  Nicholas Ferianc Kamuda

IPC分类号： G02B27/01

CPC分类号： G02B27/017 ,  G06F3/011 ,  G06F3/012 ,  G06F3/017 ,  G06T19/006 ,  G06T2215/16 ,  G06T2219/024 ,  G09G2354/00

摘要： A see through head mounted display apparatus includes code performing a method of choosing and optimal viewing location and perspective for shared-view virtual objects rendered for multiple users in a common environment. Multiple objects and multiple users are taken into account in determining the optimal, common viewing location. The technology allows each user to have a common view if the relative position of the object in the environment.

摘要翻译： 透视头戴式显示装置包括执行在公共环境中为多个用户呈现的共享视图虚拟对象选择和优化观看位置和透视图的代码的代码。 在确定最佳的常见观看位置时，会考虑多个对象和多个用户。 如果对象在环境中的相对位置，则该技术允许每个用户具有共同的视图。