Tester for exploring the mapping of a float to a real
authorSam Moore <matches@ucc.asn.au>
Tue, 22 Apr 2014 18:00:24 +0000 (02:00 +0800)
committerSam Moore <matches@ucc.asn.au>
Tue, 22 Apr 2014 18:00:24 +0000 (02:00 +0800)
commit805dd6babc18f4e16c297f0c20487418d5aa6bd8
tree5db46c06cbdd985fe9f372ad649500b81b771b5b
parente24724d4c5a0c57be728b418a2d75d94fbe442a3
Tester for exploring the mapping of a float to a real

To visualise the mapping and how you get the trade off between precision and range.

Use low precision, custom, float representations.
Convert via memcpy(3) and copious bit shifting to a Real

Even though Real is actually also a float (default double) at the moment, it's good enough to treat as being an exact representation
when the custom float is 8 bits. Besides, gnuplot can only plot within double precision anyway.

I say "custom" because I have an explicit sign bit for the exponent, which itself is unsigned.
I *think* standard representations have the exponent be a signed int so the sign bit is implied.
Not sure why the mantissa is treated as being unsigned with an explicit sign bit but the exponent isn't?

HFPA says the exponent is between e_min and e_max which is a bit confusing. Is e_min != -e_max normally?

Will do some plots and experiment a bit after sleep.
src/tests/repr.cpp [deleted file]
src/tests/represent.cpp [new file with mode: 0644]

UCC git Repository :: git.ucc.asn.au