home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #31 / NN_1992_31.iso / spool / comp / lang / rexx / 1444 < prev    next >
Encoding:
Text File  |  1992-12-29  |  1.2 KB  |  27 lines
  1. Comments: Gated by NETNEWS@AUVM.AMERICAN.EDU
  2. Path: sparky!uunet!paladin.american.edu!auvm!VNET.IBM.COM!MFC
  3. Message-ID: <REXXLIST%92122820260479@UGA.CC.UGA.EDU>
  4. Newsgroups: comp.lang.rexx
  5. Date:         Mon, 28 Dec 1992 14:33:01 GMT
  6. Sender:       REXX Programming discussion list <REXXLIST@UGA.BITNET>
  7. From:         Mike Cowlishaw <mfc@VNET.IBM.COM>
  8. Subject:      Even/Odd rounding
  9. Comments: To: rexxlist@uga.uga.edu
  10. Lines: 15
  11.  
  12. (Re: comment by J. Brock -- apologies for delay.)
  13.  
  14. Well, the problem goes a lot further than simply treating overprecise
  15. input numbers: once one decides to use Even/Odd rounding, then one must
  16. use it consistently: it should be used for all calculations and rounding
  17. (or else you'll get different results depending on the source of a
  18. number).  If Even/Odd rounding is the rule for arithmetic, then
  19. calculations are required to use all digits in their inputs (in order
  20. to provide a result of maximum possible length, that can then be
  21. Even/Odd-rounded).  Hence all calculations have to be done to arbitrary
  22. lengths: doable, of course, but at considerable cost for a very tiny
  23. benefit.  If you have a critical application where the rounding method
  24. has a real effect, it's much better to increase NUMERIC DIGITS.
  25.  
  26. Mike Cowlishaw
  27.