home *** CD-ROM | disk | FTP | other *** search
/ Executor 2.0 / executorv2.0.iso / pc / linux / extra / docs / maillist / text / archive.96 / text3424.txt < prev    next >
Encoding:
Text File  |  1996-07-25  |  682 b   |  18 lines
  1. >>>>> "Scott" == Scott Wurcer <Scott.Wurcer@analog.com> writes:
  2.  
  3.     >>  Yes, that's exactly right.  Floating point could even be a lot
  4.     >> faster than it is, but we just don't have time to work on
  5.     >> optimizing SANE right now.
  6.  
  7.     Scott> How does executor handle the 96 bit extended format ? I
  8.     Scott> have noticed differences on some computations. Namely ones
  9.     Scott> that return -0 from SANE and "?" under E/L. I haven't had
  10.     Scott> time to document the exact computations though.
  11.  
  12. The "96 bit extended format" is really 80-bit IEEE with 16 bits of
  13. zeros thrown in.  The 80387 also supports 80-bit floating point so we
  14. just use it to do the computations.
  15.  
  16. -Mat
  17.  
  18.