Measured Accuracy of VML Functions

  Default processor Intel® Pentium® III processor Intel® Pentium® 4 processor Intel® Itanium® 2 processor
float double float double float double float double
HA LA HA LA HA LA HA LA HA LA HA LA HA LA HA LA
Inv 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 3.33 0.50 2.79 0.50 0.50 0.50 0.50
Div 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50
Sqrt 0.58 0.58 0.70 0.70 0.74 0.74 0.70 0.70 0.74 3.16 0.50 1.85 0.50 0.50 0.50 0.50
InvSqrt 0.57 0.57 0.78 0.78 0.97 0.93 0.78 0.78 0.97 3.96 0.50 1.00 0.50 0.50 0.50 0.50
Cbrt 0.59 0.58 0.69 0.69 0.59 0.58 0.69 0.69 0.91 2.02 0.52 1.99 0.51 0.51 0.50 0.50
InvCbrt 0.83 0.83 0.61 0.61 0.83 0.83 0.61 0.61 0.87 1.21 0.53 2.54 0.50 0.50 0.50 0.50
Pow 0.54 2.46 0.79 1.47 0.54 2.46 0.79 1.47 0.56 0.56 0.52 2.50 0.51 0.51 0.50 0.50
Powx 0.50 0.50 0.80 0.72 0.50 0.50 0.80 0.72 0.54 0.54 0.51 0.52 0.50 0.50 0.50 0.50
Exp 0.50 0.50 0.79 0.79 0.61 0.61 0.79 0.79 0.56 1.93 0.74 3.51 0.52 0.52 0.52 0.52
Ln 0.72 0.72 0.67 0.67 0.72 0.72 0.67 0.67 0.53 1.14 0.57 3.04 0.51 0.51 0.51 0.51
Log10 0.70 0.70 0.93 0.93 0.70 0.70 0.93 0.93 0.74 1.70 0.57 3.70 0.51 0.51 0.51 0.51
Cos 0.80 0.80 0.92 0.92 0.80 2.61 0.92 0.92 0.80 2.29 0.51 0.51 0.50 0.50 0.51 0.51
Sin 0.80 0.80 0.91 0.91 0.80 2.21 0.91 0.91 0.80 2.35 0.51 0.51 0.50 0.50 0.51 0.51
SinCos 0.56 0.56 0.82 0.82 0.56 1.34 0.82 0.82 0.56 1.73 0.53 1.65 0.50 0.50 0.50 0.50
Tan 0.94 0.94 0.97 2.18 0.94 2.90 0.97 2.18 0.94 2.90 0.97 3.42 0.50 0.50 0.50 0.50
Acos 0.54 0.54 0.64 0.64 0.79 2.50 0.64 0.64 0.78 2.50 0.77 3.18 0.50 0.50 0.51 0.51
Asin 0.54 0.54 0.65 0.65 0.92 2.27 0.65 0.65 0.83 2.27 0.81 2.13 0.50 0.50 0.51 0.51
Atan 0.61 0.61 0.85 0.85 0.86 3.68 0.85 0.85 0.86 3.68 0.85 3.92 0.50 0.50 0.50 0.50
Atan2 0.75 0.75 0.58 0.58 0.95 3.87 0.58 0.58 0.80 3.08 0.75 4.00 0.50 0.50 0.50 0.50
Cosh 0.50 0.50 0.81 0.81 0.61 0.61 0.81 0.81 0.75 2.21 0.76 4.04 0.50 0.50 0.50 0.50
Sinh 0.50 0.50 0.89 0.89 0.50 0.50 0.89 0.89 0.50 3.55 0.77 3.24 0.51 0.51 0.51 0.51
Tanh 0.76 0.76 0.88 0.88 0.76 0.76 0.88 0.88 0.51 0.68 0.53 1.35 0.51 0.51 0.50 0.50
Acosh 0.50 0.50 0.75 0.75 0.88 0.88 0.75 0.75 0.88 2.98 0.75 3.00 0.51 0.51 0.54 0.51
Asinh 0.70 0.70 0.81 0.81 0.88 0.88 0.81 0.81 0.88 3.37 0.81 2.02 0.51 0.51 0.52 0.52
Atanh 0.65 0.65 0.75 0.75 0.83 0.84 0.75 0.75 0.83 2.70 0.65 3.15 0.51 0.51 0.52 0.52
Erf 0.51 0.51 0.60 0.60 0.51 0.51 0.60 0.60 0.51 0.85 0.65 1.33 0.51 0.51 0.50 0.50
Erfc 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.50 0.53 3.40 0.55 2.84 0.56 0.56 0.54 0.54


Notes:
1) Units - ULP (Units in The Last Place)
2) "Default" means X87 code for all IA-32 processors

Legal Information

Copyright © 2000-2003, Intel Corporation, All Rights Reserved.