公开(公告)号：US06738522B1

公开(公告)日：2004-05-18

申请号：US09776077

申请日：2001-02-01

申请人： Wei-Lien Hsu ,  Travis Wheatly

发明人： Wei-Lien Hsu ,  Travis Wheatly

IPC分类号： G06K936

CPC分类号： H04N19/42 ,  G06T2200/28 ,  H04N19/60 ,  H04N19/61

摘要： A method of quantizing multiple input values in parallel using SIMD instructions is disclosed. In one embodiment, the method comprises (1) receiving a set of input values Xi; (2) operating on the set of input values to produce a set of binary mask values Ki that are related to the input values Xi by Ki=−1 if Xi>0, and Ki=0 if Xi 0, and Yi=Xi−Q/2 if Xi≦0. The prequantization values may then be converted to floating point format, divided by Q, and restored to integer format to obtain the desired quantization values. Each of these operations can be performed in parallel on each of the values in the set using SIMD instructions.

摘要翻译： 公开了一种使用SIMD指令并行量化多个输入值的方法。 在一个实施例中，该方法包括（1）接收一组输入值Xi; （2）对该组输入值进行操作，以产生与输入值Xi相关的一组二进制掩码值Ki，如果Xi> 0，Ki = -1，如果Xi <0，则Ki = 0; （3）将一半的量化步长Q加到输入值Xi以获得和值; （4）将量化步长Q的一半减去输入值Xi以获得差值; （5）使用二进制掩码值筛选从负输入值计算出的和值; （6）使用互补二进制掩模来筛选从正输入值计算的差值; 和（7）组合筛选的和值和差值以确定如果Xi> 0，则可以表示为Yi = Xi + Q / 2的预量化值Yi，如果Xi <= 0，则Yi = Xi-Q / 2。 然后将预量化值转换为浮点格式，除以Q，并恢复为整数格式以获得所需的量化值。 这些操作中的每一个可以使用SIMD指令并行地执行集合中的每个值。