home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #31 / NN_1992_31.iso / spool / comp / sys / cbm / 5169 < prev    next >
Encoding:
Text File  |  1992-12-22  |  1.1 KB  |  29 lines
  1. Newsgroups: comp.sys.cbm
  2. Path: sparky!uunet!newsflash.concordia.ca!nstn.ns.ca!cs.dal.ca!ug.cs.dal.ca!digdon
  3. From: digdon@ug.cs.dal.ca (Mike Digdon)
  4. Subject: Re: Floating point math in ML
  5. Message-ID: <BzMHr0.4Kn@cs.dal.ca>
  6. Sender: usenet@cs.dal.ca (USENET News)
  7. Nntp-Posting-Host: ug2.cs.dal.ca
  8. Organization: Math, Stats & CS, Dalhousie University, Halifax, NS, Canada
  9. References: <Byun1x.H1y@cs.dal.ca> <1h12q6INNlgd@uniwa.uwa.edu.au>
  10. Date: Mon, 21 Dec 1992 18:52:11 GMT
  11. Lines: 16
  12.  
  13. > 
  14. >When being manipulated, a flating point number is given by:
  15. > 
  16. >2(exponent-129)*(1+((m1 and 127)+(m2+(m3+m4/256)/256)/128) where m1=byte
  17. >1, m2 = byte 2 etc.
  18. > 
  19. >When stored in Ram, multiply the above by (-1)^(m1 and 128).
  20. > 
  21.  
  22. This is what I was actually looking for. I have Mapping the 64, which lists all
  23. of the math stuff, but no where did it say how the actual number was converted.
  24. The above formula seems to be what I was looking for.. thanx muchly..
  25. -- 
  26.          Mike Digdon - Vice Prez DSCSS - Dalhousie University
  27.              digdon@ug.cs.dal.ca  -- Halifax, NS
  28.          - Real programmers never work nine to five -
  29.