home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #3 / NN_1993_3.iso / spool / comp / programm / 3579 < prev    next >
Encoding:
Internet Message Format  |  1993-01-24  |  1.1 KB
  1. Path: sparky!uunet!cs.utexas.edu!sun-barr!sh.wide!fgw!fdm!ace!melby
  2. From: melby@dove.yk.fujitsu.co.jp (John B. Melby)
  3. Newsgroups: comp.programming
  4. Subject: Re: scalb and rint
  5. Message-ID: <MELBY.93Jan25113448@dove.yk.fujitsu.co.jp>
  6. Date: 25 Jan 93 11:34:48 GMT
  7. References: <1993Jan21.112537.603@mnemosyne.cs.du.edu>
  8. Sender: news@ace.yk.fujitsu.co.jp
  9. Organization: Open Systems Group, Fujitsu Limited, Yokohama
  10. Lines: 18
  11. In-reply-to: mcasal@nyx.cs.du.edu's message of 21 Jan 93 11:25:37 GMT
  12.  
  13. >moreover i'd like to know how 'NaN' works...
  14.  
  15. 'NaN' stands for "not a number."  In a floating point representation, it
  16. represents a result that is not compatible with the definition of '+Inf'
  17. and '-Inf.'  This is dependent on how the representation defines infinity.
  18.  
  19. For example, defining positive overflow to be +Inf is inconsistent with
  20. defining +Inf - a to be +Inf (where a is a positive real).  If one is
  21. +Inf, the other must be +NaN or NaN.
  22.  
  23. I think that the IEEE floating point representation treats the result of
  24. division by zero as infinity, which necessitates the use of an unsigned
  25. NaN.
  26.  
  27. -----
  28. John B. Melby
  29. Fujitsu Limited, Yokohama
  30. melby@yk.fujitsu.co.jp
  31.