home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #31 / NN_1992_31.iso / spool / sci / math / 17360 < prev    next >
Encoding:
Text File  |  1992-12-23  |  1.6 KB  |  44 lines
  1. Newsgroups: sci.math
  2. Path: sparky!uunet!gatech!hubcap!steve
  3. From: steve@hubcap.clemson.edu ("Steve" Stevenson)
  4. Subject: Re: Rounding Rules
  5. Message-ID: <1992Dec23.140148.21009@hubcap.clemson.edu>
  6. Organization: Clemson University
  7. References: <1992Dec20.003018.14325@sol.ctr.columbia.edu>
  8. Date: Wed, 23 Dec 1992 14:01:48 GMT
  9. Lines: 33
  10.  
  11. In article <1992Dec20.003018.14325@sol.ctr.columbia.edu> shaw@toadflax.UCDavis.EDU (Rob Shaw) writes:
  12. >
  13. >What is the rationale behind the following rounding rule?
  14. >
  15. >when dealing with 5's followed by all zero's, check the
  16. >next digit to the left. If it's even, round down; odd,
  17. >round up.
  18. >
  19. >For example both 1.13500 and 1.14500 are 1.14 to 3 places.
  20. >What is the advantage of having the interval closed at both
  21. >ends around even digits, and open at both ends around odds?
  22. >
  23.  
  24. The problem with many of the "rounding rules" is that they are biased.
  25. In the IEEE round of rules, an attempt is made to make rounding as unbiased
  26. as possible. Round to even is specified as the rule of choice, since it
  27. avoids many of the problems of "round to infinity" or "round towards zero".
  28.  
  29. See any good (and recent) text on architecture or see
  30.  
  31. @article{ goldberg,
  32.  author={David Goldberg},
  33.  title={What every computer scientist should know about floating-point
  34.         arithmetic},
  35.  journal={Computing Surveys},volume=23,number=1,year=1991,
  36.  pages={5--48}
  37. }
  38.  
  39. -- 
  40. ===============================================================================
  41. Steve (really "D. E.") Stevenson           steve@hubcap.clemson.edu
  42. Department of Computer Science,            (803)656-5880.mabell
  43. Clemson University, Clemson, SC 29634-1906
  44.