home *** CD-ROM | disk | FTP | other *** search
/ Reverse Code Engineering RCE CD +sandman 2000 / ReverseCodeEngineeringRceCdsandman2000.iso / RCE / LordLucifer / win32asm / tutorials / softicedb.txt < prev    next >
Encoding:
Text File  |  2000-05-25  |  2.4 KB  |  67 lines
  1. Setting up MASM for use with SoftICE
  2. -----------------------------------------------------------------------------
  3. by Lucifer
  4. Mon January 25, 1999
  5.  
  6.  
  7. Well, I have had a pain trying to get masm produced executables to debug
  8. correctly with SoftICE.  After some kludging I've finally figured it out...
  9. Its actually simple to do, but if you dont know what you're doing (or haven't
  10. read your manual), its quite a pain. Set these options when you build your
  11. project and you should have no problems debugging it.
  12.  
  13.  
  14. Step 1 -  Setting up The Assembler:
  15. -----------------------------------
  16.         ML /COFF /Zi ...
  17.  
  18.  
  19. Step 2 - Setting up The Linker:
  20. -------------------------------
  21.         Link /SUBSYSTEM:WINDOWS /DEBUG /DEBUGTYPE:CV ...
  22.  
  23.  
  24. Step 3 - Seting up SoftICE:
  25. ---------------------------
  26. This batch file will translate the symbol information and package the source
  27. code.  This will allow you full symbolic and source level debugging.
  28. It will then launch the debugger amd break on the module's entry point
  29. (WinMain, DllMain, or DriverEntry). This batch file will completely replace
  30. the use of Loader32.exe, giving quick and easy access to the debugger from
  31. the command line.
  32.  
  33. rem DEBUG.BAT ----------------------
  34. @echo off
  35. nmsym /translate:source,package,always /source:. /load:execute,break %1
  36.  
  37. Now all you have to do is type "DEBUG MyProgram.exe" on the command line to
  38. automatically load the source and symbols and begin debugging.
  39.  
  40.  
  41. Step 4 - Setting up the Paths:
  42. ------------------------------
  43. Now all you need to do is add your MASM bin directory to the PATH, as in:
  44. SET PATH = %PATH%;C:\MASM\BIN
  45.  
  46.  
  47. Step 5 - Using SoftICE to Debug:
  48. --------------------------------
  49. Note: It is a good idea to have a WinMain function in your source, so that
  50. SoftICE will break on it when it loads the program...
  51. Once you have the program laoded into softice you can use the SRC command
  52. to toggle between source view, code view, and mixed mode...
  53. You can also set breakpoints on your functions by typing BPX MyFunc.
  54. BPM MyVar will break on access to a variable.
  55. Of course, READ YOUR MANUAL so you really know what your doing...
  56.  
  57.  
  58. NOTE: These settings haven't seemed to work for everybody... so if you have
  59. problems, or know what I am doing wrong, please let me know.
  60.  
  61. -----------------------------------------------------------------------------
  62. Hope this helps someone....
  63. ...and thanks Hookflash!
  64.  
  65. Copyright (C) 1999
  66. lord-lucifer@usa.net
  67.