home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1993 #3 / NN_1993_3.iso / spool / sci / astro / 14417 < prev    next >
Encoding:
Text File  |  1993-01-25  |  2.5 KB  |  54 lines
  1. Newsgroups: sci.astro
  2. Path: sparky!uunet!gatech!destroyer!fmsrl7!lynx.unm.edu!zia.aoc.nrao.edu!laphroaig!cflatter
  3. From: cflatter@nrao.edu (Chris Flatters)
  4. Subject: Re: Planetary Ephemeris Routines?
  5. Message-ID: <1993Jan26.005607.21190@zia.aoc.nrao.edu>
  6. Sender: news@zia.aoc.nrao.edu
  7. Reply-To: cflatter@nrao.edu
  8. Organization: NRAO
  9. References: <1993Jan25.210019.11460@news.lrz-muenchen.de>
  10. Date: Tue, 26 Jan 93 00:56:07 GMT
  11. Lines: 41
  12.  
  13. In article 11460@news.lrz-muenchen.de, HUSFELD@usmv01.usm.uni-muenchen.de (Husfeld, Dirk) writes:
  14. >In <1993Jan22.182648.7390@zia.aoc.nrao.edu> cflatter@nrao.edu writes:
  15. >
  16. >>>   <some cited lines about numerical precision deleted>
  17. >> Unfortunately his discussion of numerical precision is very outdated.  Almost
  18. >> anything you are likely to have on your desk these days will maintain much
  19. >> better precision than Meeus would lead you to believe (most machines will
  20. >> only lose one bit of precision in subtraction no matter how close the numbers
  21. >> being subtracted for example).
  22. >> 
  23. >>     Chris Flatters
  24. >>     cflatter@nrao.edu
  25. >>
  26. >Hmmm.  If you subtract two numbers that differ by only the last bit in their
  27. >binary representation, then your result only has one bit of precision.
  28. >So I think your above words were not very carefully chosen.  Could you
  29. >elaborate on what you mean?
  30.  
  31. Most current floating-point implementations use an extra bit (called a
  32. guard digit) during addition and subtraction.  It can be proved
  33. (meaning I'm not going to do it here --- its awkward to reproduce it
  34. text --- see "What Every Computer Scientist Should Know About
  35. Floating-Point Arithmetic" by David Goldberg, ACM Computing Surveys,
  36. 23:5 (1991) if you really want to study it) that the use of a single
  37. guard digit will restrict the maximum relative error in the subtraction
  38. of two numbers to be less than 2e where e is the upper bound on the
  39. relative error caused by rounding by half a unit in the least
  40. significant digit (this is a general theorem and applies to both binary
  41. and non-binary floating-point representations).
  42.  
  43. Floating-point implementations that conform to IEEE standard 754 (these
  44. include IBM PC's (Intel 80x87), and most workstations (including SPARC,
  45. MIPS, PA-RISC and IBM RS/6000) use a guard digit.  VAX floating-point
  46. also uses a guard digit.  IBM added a guard digit to the
  47. double-precision format of its system/360 architecture in the late
  48. 1960s (single-precision already used a guard digit) and retrofitted
  49. every machine in the field.  Cray supercomputers do not use a guard
  50. digit.
  51.  
  52.     Chris Flatters
  53.     cflatter@nrao.edu
  54.