THE FINAL COUNTDOWN
[ipdf/sam.git] / chapters / Background / Standards / Precision.tex
index 2d2a3b4..f533b98 100644 (file)
@@ -19,7 +19,7 @@ coordinate system transformations to provide the best possible precision and to
 %\begin{comment}
 \subsection{Javascript}
 We include Javascript here due to its relation with the SVG, HTML5 and PDF standards.
-According to the EMCA-262 standard, ``The Number type has exactly 18437736874454810627 (that is, $2^64-^53+3$) values, 
+According to the EMCA-262 standard, ``The Number type has exactly 18437736874454810627 (that is, $2^{64}-2^{53}+3$) values, 
 representing the double-precision 64-bit format IEEE 754 values as specified in the IEEE Standard for Binary Floating-Point Arithmetic''\cite{ecma-262}. 
 The Number type does differ slightly from IEEE-754 in that there is only a single valid representation of ``Not a Number'' (NaN). The EMCA-262 does not define an ``integer'' representation.
 %\end{comment}

UCC git Repository :: git.ucc.asn.au