home *** CD-ROM | disk | FTP | other *** search
/ NetNews Usenet Archive 1992 #31 / NN_1992_31.iso / spool / comp / ai / philosop / 7185 < prev    next >
Encoding:
Text File  |  1992-12-31  |  2.3 KB  |  46 lines
  1. Newsgroups: comp.ai.philosophy
  2. Path: sparky!uunet!zaphod.mps.ohio-state.edu!rpi!gatech!enterpoop.mit.edu!news.media.mit.edu!minsky
  3. From: minsky@media.mit.edu (Marvin Minsky)
  4. Subject: Re: Drawing the entity/environment boundary
  5. Message-ID: <1992Dec31.223448.28663@news.media.mit.edu>
  6. Sender: news@news.media.mit.edu (USENET News System)
  7. Cc: minsky
  8. Organization: MIT Media Laboratory
  9. References: <BILL.92Dec18123201@ca3.nsma.arizona.edu> <BzLCx1.JF5@iat.holonet.net> <C052B5.95t@spss.com>
  10. Date: Thu, 31 Dec 1992 22:34:48 GMT
  11. Lines: 33
  12.  
  13. In article <C052B5.95t@spss.com> markrose@spss.com (Mark Rosenfelder) writes:
  14. >In article <BzLCx1.JF5@iat.holonet.net> ken@iat.holonet.net (Ken Easlon) writes:
  15. >>Oh, THAT "Systems Reply".  Searle discusses it briefly in the Scientific
  16. >>American article, but I don't see how that relates to the entity
  17. >>environment boundary.  
  18. >
  19. >Neither does Searle, and that's precisely the problem.  Searle never seems
  20. >to question the notion that you can determine whether understanding occurs
  21. >in the Chinese Room by asking if the man in the room understands Chinese.
  22. >The corollary of his position would be that if a Turing Test-passing AI
  23. >*were* intelligent, the intelligence must lie in the *CPU*.  The Systems 
  24. >Reply more sensibly draws the entity boundary around the computer/algorithm
  25. >combination (and emphasizes the need to think more carefully about what 
  26. >systems exhibit what cognitive properties).
  27.  
  28. There are two more serious problems with all this.
  29.  
  30. 1).  The notion of "understanding" is itself defective if we try to
  31. define "A understands X".  Read Chapter 30 of The Society of Mind.
  32. A major point is that this is relative to someone's judgment, so one
  33. really should be discussing "O agrees (thinks, believes, assumes) that
  34. A understands (in some sense proposed by O) X.  So Joe may think Jack
  35. understands Physics, whereas Gell-Man thinks Jack understands nothing
  36. about it.
  37.  
  38. See also my "Reply to Searle" in that old Brain and Behavior
  39. collection of reviews of Searle.
  40.  
  41. 2) the notion of "boundary" should also be relative to some observer
  42. with some purpose (disposition, etc).  Read Dawkins' The Extended
  43. Phenotype for many examples of where it is bad to draw a boundary
  44. around a particular cell, organ, or individual organism's body.  See
  45. his discussion of Beaver-caused lakes, for example.
  46.