home *** CD-ROM | disk | FTP | other *** search
/ Chip 2000 May / Chip_2000-05_cd1.bin / zkuste / Perl / ActivePerl-5.6.0.613.msi / 䆊䌷䈹䈙䏵-䞅䞆䞀㡆䞃䄦䠥 / _6c53f9381addf10862facebe4953f5d8 < prev    next >
Text File  |  2000-03-23  |  63KB  |  1,160 lines

  1. <HTML>
  2. <HEAD>
  3. <TITLE>perlre - Perl regular expressions</TITLE>
  4. <LINK REL="stylesheet" HREF="../../Active.css" TYPE="text/css">
  5. <LINK REV="made" HREF="mailto:">
  6. </HEAD>
  7.  
  8. <BODY>
  9. <TABLE BORDER=0 CELLPADDING=0 CELLSPACING=0 WIDTH=100%>
  10. <TR><TD CLASS=block VALIGN=MIDDLE WIDTH=100% BGCOLOR="#cccccc">
  11. <STRONG><P CLASS=block> perlre - Perl regular expressions</P></STRONG>
  12. </TD></TR>
  13. </TABLE>
  14.  
  15. <A NAME="__index__"></A>
  16. <!-- INDEX BEGIN -->
  17.  
  18. <UL>
  19.  
  20.     <LI><A HREF="#name">NAME</A></LI>
  21.     <LI><A HREF="#description">DESCRIPTION</A></LI>
  22.     <UL>
  23.  
  24.         <LI><A HREF="#regular expressions">Regular Expressions</A></LI>
  25.         <LI><A HREF="#extended patterns">Extended Patterns</A></LI>
  26.         <LI><A HREF="#backtracking">Backtracking</A></LI>
  27.         <LI><A HREF="#version 8 regular expressions">Version 8 Regular Expressions</A></LI>
  28.         <LI><A HREF="#warning on \1 vs $1">Warning on \1 vs $1</A></LI>
  29.         <LI><A HREF="#repeated patterns matching zerolength substring">Repeated patterns matching zero-length substring</A></LI>
  30.         <LI><A HREF="#combining pieces together">Combining pieces together</A></LI>
  31.         <LI><A HREF="#creating custom re engines">Creating custom RE engines</A></LI>
  32.     </UL>
  33.  
  34.     <LI><A HREF="#bugs">BUGS</A></LI>
  35.     <LI><A HREF="#see also">SEE ALSO</A></LI>
  36. </UL>
  37. <!-- INDEX END -->
  38.  
  39. <HR>
  40. <P>
  41. <H1><A NAME="name">NAME</A></H1>
  42. <P>perlre - Perl regular expressions</P>
  43. <P>
  44. <HR>
  45. <H1><A NAME="description">DESCRIPTION</A></H1>
  46. <P>This page describes the syntax of regular expressions in Perl.  For a
  47. description of how to <EM>use</EM> regular expressions in matching
  48. operations, plus various examples of the same, see discussions
  49. of <CODE>m//</CODE>, <CODE>s///</CODE>, <CODE>qr//</CODE> and <CODE>??</CODE> in <A HREF="../../lib/Pod/perlop.html#regexp quotelike operators">Regexp Quote-Like Operators in the perlop manpage</A>.</P>
  50. <P>Matching operations can have various modifiers.  Modifiers
  51. that relate to the interpretation of the regular expression inside
  52. are listed below.  Modifiers that alter the way a regular expression
  53. is used by Perl are detailed in <A HREF="../../lib/Pod/perlop.html#regexp quotelike operators">Regexp Quote-Like Operators in the perlop manpage</A> and 
  54. <A HREF="../../lib/Pod/perlop.html#gory details of parsing quoted constructs">Gory details of parsing quoted constructs in the perlop manpage</A>.</P>
  55. <DL>
  56. <DT><STRONG><A NAME="item_i">i</A></STRONG><BR>
  57. <DD>
  58. Do case-insensitive pattern matching.
  59. <P>If <CODE>use locale</CODE> is in effect, the case map is taken from the current
  60. locale.  See <A HREF="../../lib/Pod/perllocale.html">the perllocale manpage</A>.</P>
  61. <P></P>
  62. <DT><STRONG><A NAME="item_m">m</A></STRONG><BR>
  63. <DD>
  64. Treat string as multiple lines.  That is, change ``^'' and ``$'' from matching
  65. the start or end of the string to matching the start or end of any
  66. line anywhere within the string.
  67. <P></P>
  68. <DT><STRONG><A NAME="item_s">s</A></STRONG><BR>
  69. <DD>
  70. Treat string as single line.  That is, change ``.'' to match any character
  71. whatsoever, even a newline, which normally it would not match.
  72. <P>The <CODE>/s</CODE> and <CODE>/m</CODE> modifiers both override the <CODE>$*</CODE> setting.  That
  73. is, no matter what <CODE>$*</CODE> contains, <CODE>/s</CODE> without <CODE>/m</CODE> will force
  74. ``^'' to match only at the beginning of the string and ``$'' to match
  75. only at the end (or just before a newline at the end) of the string.
  76. Together, as /ms, they let the ``.'' match any character whatsoever,
  77. while yet allowing ``^'' and ``$'' to match, respectively, just after
  78. and just before newlines within the string.</P>
  79. <P></P>
  80. <DT><STRONG><A NAME="item_x">x</A></STRONG><BR>
  81. <DD>
  82. Extend your pattern's legibility by permitting whitespace and comments.
  83. <P></P></DL>
  84. <P>These are usually written as ``the <CODE>/x</CODE> modifier'', even though the delimiter
  85. in question might not really be a slash.  Any of these
  86. modifiers may also be embedded within the regular expression itself using
  87. the <CODE>(?...)</CODE> construct.  See below.</P>
  88. <P>The <CODE>/x</CODE> modifier itself needs a little more explanation.  It tells
  89. the regular expression parser to ignore whitespace that is neither
  90. backslashed nor within a character class.  You can use this to break up
  91. your regular expression into (slightly) more readable parts.  The <CODE>#</CODE>
  92. character is also treated as a metacharacter introducing a comment,
  93. just as in ordinary Perl code.  This also means that if you want real
  94. whitespace or <CODE>#</CODE> characters in the pattern (outside a character
  95. class, where they are unaffected by <CODE>/x</CODE>), that you'll either have to 
  96. escape them or encode them using octal or hex escapes.  Taken together,
  97. these features go a long way towards making Perl's regular expressions
  98. more readable.  Note that you have to be careful not to include the
  99. pattern delimiter in the comment--perl has no way of knowing you did
  100. not intend to close the pattern early.  See the C-comment deletion code
  101. in <A HREF="../../lib/Pod/perlop.html">the perlop manpage</A>.</P>
  102. <P>
  103. <H2><A NAME="regular expressions">Regular Expressions</A></H2>
  104. <P>The patterns used in Perl pattern matching derive from supplied in
  105. the Version 8 regex routines.  (The routines are derived
  106. (distantly) from Henry Spencer's freely redistributable reimplementation
  107. of the V8 routines.)  See <A HREF="#version 8 regular expressions">Version 8 Regular Expressions</A> for
  108. details.</P>
  109. <P>In particular the following metacharacters have their standard <EM>egrep</EM>-ish
  110. meanings:</P>
  111. <PRE>
  112.     \   Quote the next metacharacter
  113.     ^   Match the beginning of the line
  114.     .   Match any character (except newline)
  115.     $   Match the end of the line (or before newline at the end)
  116.     |   Alternation
  117.     ()  Grouping
  118.     []  Character class</PRE>
  119. <P>By default, the ``^'' character is guaranteed to match only the
  120. beginning of the string, the ``$'' character only the end (or before the
  121. newline at the end), and Perl does certain optimizations with the
  122. assumption that the string contains only one line.  Embedded newlines
  123. will not be matched by ``^'' or ``$''.  You may, however, wish to treat a
  124. string as a multi-line buffer, such that the ``^'' will match after any
  125. newline within the string, and ``$'' will match before any newline.  At the
  126. cost of a little more overhead, you can do this by using the /m modifier
  127. on the pattern match operator.  (Older programs did this by setting <CODE>$*</CODE>,
  128. but this practice is now deprecated.)</P>
  129. <P>To simplify multi-line substitutions, the ``.'' character never matches a
  130. newline unless you use the <CODE>/s</CODE> modifier, which in effect tells Perl to pretend
  131. the string is a single line--even if it isn't.  The <CODE>/s</CODE> modifier also
  132. overrides the setting of <CODE>$*</CODE>, in case you have some (badly behaved) older
  133. code that sets it in another module.</P>
  134. <P>The following standard quantifiers are recognized:</P>
  135. <PRE>
  136.     *      Match 0 or more times
  137.     +      Match 1 or more times
  138.     ?      Match 1 or 0 times
  139.     {n}    Match exactly n times
  140.     {n,}   Match at least n times
  141.     {n,m}  Match at least n but not more than m times</PRE>
  142. <P>(If a curly bracket occurs in any other context, it is treated
  143. as a regular character.)  The ``*'' modifier is equivalent to <CODE>{0,}</CODE>, the ``+''
  144. modifier to <CODE>{1,}</CODE>, and the ``?'' modifier to <CODE>{0,1}</CODE>.  n and m are limited
  145. to integral values less than a preset limit defined when perl is built.
  146. This is usually 32766 on the most common platforms.  The actual limit can
  147. be seen in the error message generated by code such as this:</P>
  148. <PRE>
  149.     $_ **= $_ , / {$_} / for 2 .. 42;</PRE>
  150. <P>By default, a quantified subpattern is ``greedy'', that is, it will match as
  151. many times as possible (given a particular starting location) while still
  152. allowing the rest of the pattern to match.  If you want it to match the
  153. minimum number of times possible, follow the quantifier with a ``?''.  Note
  154. that the meanings don't change, just the ``greediness'':</P>
  155. <PRE>
  156.     *?     Match 0 or more times
  157.     +?     Match 1 or more times
  158.     ??     Match 0 or 1 time
  159.     {n}?   Match exactly n times
  160.     {n,}?  Match at least n times
  161.     {n,m}? Match at least n but not more than m times</PRE>
  162. <P>Because patterns are processed as double quoted strings, the following
  163. also work:</P>
  164. <PRE>
  165.     \t          tab                   (HT, TAB)
  166.     \n          newline               (LF, NL)
  167.     \r          return                (CR)
  168.     \f          form feed             (FF)
  169.     \a          alarm (bell)          (BEL)
  170.     \e          escape (think troff)  (ESC)
  171.     \033        octal char (think of a PDP-11)
  172.     \x1B        hex char
  173.     \x{263a}    wide hex char         (Unicode SMILEY)
  174.     \c[         control char
  175.     \N{name}    named char
  176.     \l          lowercase next char (think vi)
  177.     \u          uppercase next char (think vi)
  178.     \L          lowercase till \E (think vi)
  179.     \U          uppercase till \E (think vi)
  180.     \E          end case modification (think vi)
  181.     \Q          quote (disable) pattern metacharacters till \E</PRE>
  182. <P>If <CODE>use locale</CODE> is in effect, the case map used by <CODE>\l</CODE>, <CODE>\L</CODE>, <CODE>\u</CODE>
  183. and <CODE>\U</CODE> is taken from the current locale.  See <A HREF="../../lib/Pod/perllocale.html">the perllocale manpage</A>.  For
  184. documentation of <CODE>\N{name}</CODE>, see <A HREF="../../lib/charnames.html">the charnames manpage</A>.</P>
  185. <P>You cannot include a literal <CODE>$</CODE> or <CODE>@</CODE> within a <CODE>\Q</CODE> sequence.
  186. An unescaped <CODE>$</CODE> or <CODE>@</CODE> interpolates the corresponding variable,
  187. while escaping will cause the literal string <CODE>\$</CODE> to be matched.
  188. You'll need to write something like <CODE>m/\Quser\E\@\Qhost/</CODE>.</P>
  189. <P>In addition, Perl defines the following:</P>
  190. <PRE>
  191.     \w  Match a "word" character (alphanumeric plus "_")
  192.     \W  Match a non-word character
  193.     \s  Match a whitespace character
  194.     \S  Match a non-whitespace character
  195.     \d  Match a digit character
  196.     \D  Match a non-digit character
  197.     \pP Match P, named property.  Use \p{Prop} for longer names.
  198.     \PP Match non-P
  199.     \X  Match eXtended Unicode "combining character sequence",
  200.         equivalent to C<(?:\PM\pM*)>
  201.     \C  Match a single C char (octet) even under utf8.</PRE>
  202. <P>A <CODE>\w</CODE> matches a single alphanumeric character, not a whole word.
  203. Use <CODE>\w+</CODE> to match a string of Perl-identifier characters (which isn't 
  204. the same as matching an English word).  If <CODE>use locale</CODE> is in effect, the
  205. list of alphabetic characters generated by <CODE>\w</CODE> is taken from the
  206. current locale.  See <A HREF="../../lib/Pod/perllocale.html">the perllocale manpage</A>.  You may use <CODE>\w</CODE>, <CODE>\W</CODE>, <CODE>\s</CODE>, <CODE>\S</CODE>,
  207. <CODE>\d</CODE>, and <CODE>\D</CODE> within character classes, but if you try to use them
  208. as endpoints of a range, that's not a range, the ``-'' is understood literally.
  209. See <A HREF="../../lib/utf8.html">the utf8 manpage</A> for details about <CODE>\pP</CODE>, <CODE>\PP</CODE>, and <CODE>\X</CODE>.</P>
  210. <P>The POSIX character class syntax</P>
  211. <PRE>
  212.     [:class:]</PRE>
  213. <P>is also available.  The available classes and their backslash
  214. equivalents (if available) are as follows:</P>
  215. <PRE>
  216.     alpha
  217.     alnum
  218.     ascii
  219.     cntrl
  220.     digit       \d
  221.     graph
  222.     lower
  223.     print
  224.     punct
  225.     space       \s
  226.     upper
  227.     word        \w
  228.     xdigit</PRE>
  229. <P>For example use <CODE>[:upper:]</CODE> to match all the uppercase characters.
  230. Note that the <CODE>[]</CODE> are part of the <CODE>[::]</CODE> construct, not part of the whole
  231. character class.  For example:</P>
  232. <PRE>
  233.     [01[:alpha:]%]</PRE>
  234. <P>matches one, zero, any alphabetic character, and the percentage sign.</P>
  235. <P>If the <CODE>utf8</CODE> pragma is used, the following equivalences to Unicode
  236. \p{} constructs hold:</P>
  237. <PRE>
  238.     alpha       IsAlpha
  239.     alnum       IsAlnum
  240.     ascii       IsASCII
  241.     cntrl       IsCntrl
  242.     digit       IsDigit
  243.     graph       IsGraph
  244.     lower       IsLower
  245.     print       IsPrint
  246.     punct       IsPunct
  247.     space       IsSpace
  248.     upper       IsUpper
  249.     word        IsWord
  250.     xdigit      IsXDigit</PRE>
  251. <P>For example <CODE>[:lower:]</CODE> and <CODE>\p{IsLower}</CODE> are equivalent.</P>
  252. <P>If the <CODE>utf8</CODE> pragma is not used but the <CODE>locale</CODE> pragma is, the
  253. classes correlate with the <CODE>isalpha(3)</CODE> interface (except for `word',
  254. which is a Perl extension, mirroring <CODE>\w</CODE>).</P>
  255. <P>The assumedly non-obviously named classes are:</P>
  256. <DL>
  257. <DT><STRONG><A NAME="item_cntrl">cntrl</A></STRONG><BR>
  258. <DD>
  259. Any control character.  Usually characters that don't produce output as
  260. such but instead control the terminal somehow: for example newline and
  261. backspace are control characters.  All characters with <A HREF="../../lib/Pod/perlfunc.html#item_ord"><CODE>ord()</CODE></A> less than
  262. 32 are most often classified as control characters.
  263. <P></P>
  264. <DT><STRONG><A NAME="item_graph">graph</A></STRONG><BR>
  265. <DD>
  266. Any alphanumeric or punctuation character.
  267. <P></P>
  268. <DT><STRONG><A NAME="item_print">print</A></STRONG><BR>
  269. <DD>
  270. Any alphanumeric or punctuation character or space.
  271. <P></P>
  272. <DT><STRONG><A NAME="item_punct">punct</A></STRONG><BR>
  273. <DD>
  274. Any punctuation character.
  275. <P></P>
  276. <DT><STRONG><A NAME="item_xdigit">xdigit</A></STRONG><BR>
  277. <DD>
  278. Any hexadecimal digit.  Though this may feel silly (/0-9a-f/i would
  279. work just fine) it is included for completeness.
  280. <P></P></DL>
  281. <P>You can negate the [::] character classes by prefixing the class name
  282. with a '^'. This is a Perl extension.  For example:</P>
  283. <PRE>
  284.     POSIX       trad. Perl  utf8 Perl</PRE>
  285. <PRE>
  286.     [:^digit:]      \D      \P{IsDigit}
  287.     [:^space:]      \S      \P{IsSpace}
  288.     [:^word:]       \W      \P{IsWord}</PRE>
  289. <P>The POSIX character classes [.cc.] and [=cc=] are recognized but
  290. <STRONG>not</STRONG> supported and trying to use them will cause an error.</P>
  291. <P>Perl defines the following zero-width assertions:</P>
  292. <PRE>
  293.     \b  Match a word boundary
  294.     \B  Match a non-(word boundary)
  295.     \A  Match only at beginning of string
  296.     \Z  Match only at end of string, or before newline at the end
  297.     \z  Match only at end of string
  298.     \G  Match only at pos() (e.g. at the end-of-match position
  299.         of prior m//g)</PRE>
  300. <P>A word boundary (<CODE>\b</CODE>) is a spot between two characters
  301. that has a <CODE>\w</CODE> on one side of it and a <CODE>\W</CODE> on the other side
  302. of it (in either order), counting the imaginary characters off the
  303. beginning and end of the string as matching a <CODE>\W</CODE>.  (Within
  304. character classes <CODE>\b</CODE> represents backspace rather than a word
  305. boundary, just as it normally does in any double-quoted string.)
  306. The <CODE>\A</CODE> and <CODE>\Z</CODE> are just like ``^'' and ``$'', except that they
  307. won't match multiple times when the <CODE>/m</CODE> modifier is used, while
  308. ``^'' and ``$'' will match at every internal line boundary.  To match
  309. the actual end of the string and not ignore an optional trailing
  310. newline, use <CODE>\z</CODE>.</P>
  311. <P>The <CODE>\G</CODE> assertion can be used to chain global matches (using
  312. <CODE>m//g</CODE>), as described in <A HREF="../../lib/Pod/perlop.html#regexp quotelike operators">Regexp Quote-Like Operators in the perlop manpage</A>.
  313. It is also useful when writing <CODE>lex</CODE>-like scanners, when you have
  314. several patterns that you want to match against consequent substrings
  315. of your string, see the previous reference.  The actual location
  316. where <CODE>\G</CODE> will match can also be influenced by using <A HREF="../../lib/Pod/perlfunc.html#item_pos"><CODE>pos()</CODE></A> as
  317. an lvalue.  See <A HREF="../../lib/Pod/perlfunc.html#pos">pos in the perlfunc manpage</A>.</P>
  318. <P>The bracketing construct <CODE>( ... )</CODE> creates capture buffers.  To
  319. refer to the digit'th buffer use \<digit> within the
  320. match.  Outside the match use ``$'' instead of ``\''.  (The
  321. \<digit> notation works in certain circumstances outside 
  322. the match.  See the warning below about \1 vs $1 for details.)
  323. Referring back to another part of the match is called a
  324. <EM>backreference</EM>.</P>
  325. <P>There is no limit to the number of captured substrings that you may
  326. use.  However Perl also uses \10, \11, etc. as aliases for \010,
  327. \011, etc.  (Recall that 0 means octal, so \011 is the 9'th ASCII
  328. character, a tab.)  Perl resolves this ambiguity by interpreting
  329. \10 as a backreference only if at least 10 left parentheses have
  330. opened before it.  Likewise \11 is a backreference only if at least
  331. 11 left parentheses have opened before it.  And so on.  \1 through
  332. \9 are always interpreted as backreferences.``</P>
  333. <P>Examples:</P>
  334. <PRE>
  335.     s/^([^ ]*) *([^ ]*)/$2 $1/;     # swap first two words</PRE>
  336. <PRE>
  337.      if (/(.)\1/) {                 # find first doubled char
  338.          print "'$1' is the first doubled character\n";
  339.      }</PRE>
  340. <PRE>
  341.     if (/Time: (..):(..):(..)/) {   # parse out values
  342.         $hours = $1;
  343.         $minutes = $2;
  344.         $seconds = $3;
  345.     }</PRE>
  346. <P>Several special variables also refer back to portions of the previous
  347. match.  <CODE>$+</CODE> returns whatever the last bracket match matched.
  348. <CODE>$&</CODE> returns the entire matched string.  (At one point <CODE>$0</CODE> did
  349. also, but now it returns the name of the program.)  <CODE>$`</CODE> returns
  350. everything before the matched string.  And <CODE>$'</CODE> returns everything
  351. after the matched string.</P>
  352. <P>The numbered variables ($1, $2, $3, etc.) and the related punctuation
  353. set (<CODE><$+</CODE>, <CODE>$&</CODE>, <CODE>$`</CODE>, and <CODE>$'</CODE>) are all dynamically scoped
  354. until the end of the enclosing block or until the next successful
  355. match, whichever comes first.  (See <A HREF="../../lib/Pod/perlsyn.html#compound statements">Compound Statements in the perlsyn manpage</A>.)</P>
  356. <P><STRONG>WARNING</STRONG>: Once Perl sees that you need one of <CODE>$&</CODE>, <CODE>$`</CODE>, or
  357. <CODE>$'</CODE> anywhere in the program, it has to provide them for every
  358. pattern match.  This may substantially slow your program.  Perl
  359. uses the same mechanism to produce $1, $2, etc, so you also pay a
  360. price for each pattern that contains capturing parentheses.  (To
  361. avoid this cost while retaining the grouping behaviour, use the
  362. extended regular expression <CODE>(?: ... )</CODE> instead.)  But if you never
  363. use <CODE>$&</CODE>, <CODE>$`</CODE> or <CODE>$'</CODE>, then patterns <EM>without</EM> capturing
  364. parentheses will not be penalized.  So avoid <CODE>$&</CODE>, <CODE>$'</CODE>, and <CODE>$`</CODE>
  365. if you can, but if you can't (and some algorithms really appreciate
  366. them), once you've used them once, use them at will, because you've
  367. already paid the price.  As of 5.005, <CODE>$&</CODE> is not so costly as the
  368. other two.</P>
  369. <P>Backslashed metacharacters in Perl are alphanumeric, such as <CODE>\b</CODE>,
  370. <CODE>\w</CODE>, <CODE>\n</CODE>.  Unlike some other regular expression languages, there
  371. are no backslashed symbols that aren't alphanumeric.  So anything
  372. that looks like \\, \(, \), \<, \>, \{, or \} is always
  373. interpreted as a literal character, not a metacharacter.  This was
  374. once used in a common idiom to disable or quote the special meanings
  375. of regular expression metacharacters in a string that you want to
  376. use for a pattern. Simply quote all non-alphanumeric characters:</P>
  377. <PRE>
  378.     $pattern =~ s/(\W)/\\$1/g;</PRE>
  379. <P>Today it is more common to use the <A HREF="../../lib/Pod/perlfunc.html#item_quotemeta"><CODE>quotemeta()</CODE></A> function or the <CODE>\Q</CODE>
  380. metaquoting escape sequence to disable all metacharacters' special
  381. meanings like this:</P>
  382. <PRE>
  383.     /$unquoted\Q$quoted\E$unquoted/</PRE>
  384. <P>Beware that if you put literal backslashes (those not inside
  385. interpolated variables) between <CODE>\Q</CODE> and <CODE>\E</CODE>, double-quotish
  386. backslash interpolation may lead to confusing results.  If you
  387. <EM>need</EM> to use literal backslashes within <CODE>\Q...\E</CODE>,
  388. consult <A HREF="../../lib/Pod/perlop.html#gory details of parsing quoted constructs">Gory details of parsing quoted constructs in the perlop manpage</A>.</P>
  389. <P>
  390. <H2><A NAME="extended patterns">Extended Patterns</A></H2>
  391. <P>Perl also defines a consistent extension syntax for features not
  392. found in standard tools like <STRONG>awk</STRONG> and <STRONG>lex</STRONG>.  The syntax is a
  393. pair of parentheses with a question mark as the first thing within
  394. the parentheses.  The character after the question mark indicates
  395. the extension.</P>
  396. <P>The stability of these extensions varies widely.  Some have been
  397. part of the core language for many years.  Others are experimental
  398. and may change without warning or be completely removed.  Check
  399. the documentation on an individual feature to verify its current
  400. status.</P>
  401. <P>A question mark was chosen for this and for the minimal-matching
  402. construct because 1) question marks are rare in older regular
  403. expressions, and 2) whenever you see one, you should stop and
  404. ``question'' exactly what is going on.  That's psychology...</P>
  405. <DL>
  406. <DT><STRONG><A NAME="item_%28%3F%23text%29"><CODE>(?#text)</CODE></A></STRONG><BR>
  407. <DD>
  408. A comment.  The text is ignored.  If the <CODE>/x</CODE> modifier enables
  409. whitespace formatting, a simple <CODE>#</CODE> will suffice.  Note that Perl closes
  410. the comment as soon as it sees a <CODE>)</CODE>, so there is no way to put a literal
  411. <CODE>)</CODE> in the comment.
  412. <P></P>
  413. <DT><STRONG><A NAME="item_%28%3Fimsx%2Dimsx%29"><CODE>(?imsx-imsx)</CODE></A></STRONG><BR>
  414. <DD>
  415. One or more embedded pattern-match modifiers.  This is particularly
  416. useful for dynamic patterns, such as those read in from a configuration
  417. file, read in as an argument, are specified in a table somewhere,
  418. etc.  Consider the case that some of which want to be case sensitive
  419. and some do not.  The case insensitive ones need to include merely
  420. <CODE>(?i)</CODE> at the front of the pattern.  For example:
  421. <PRE>
  422.     $pattern = "foobar";
  423.     if ( /$pattern/i ) { }</PRE>
  424. <PRE>
  425.     # more flexible:</PRE>
  426. <PRE>
  427.     $pattern = "(?i)foobar";
  428.     if ( /$pattern/ ) { }</PRE>
  429. <P>Letters after a <CODE>-</CODE> turn those modifiers off.  These modifiers are
  430. localized inside an enclosing group (if any).  For example,</P>
  431. <PRE>
  432.     ( (?i) blah ) \s+ \1</PRE>
  433. <P>will match a repeated (<EM>including the case</EM>!) word <CODE>blah</CODE> in any
  434. case, assuming <A HREF="#item_x"><CODE>x</CODE></A> modifier, and no <A HREF="#item_i"><CODE>i</CODE></A> modifier outside this
  435. group.</P>
  436. <P></P>
  437. <DT><STRONG><A NAME="item_%28%3F%3Apattern%29"><CODE>(?:pattern)</CODE></A></STRONG><BR>
  438. <DD>
  439. <DT><STRONG><A NAME="item_%28%3Fimsx%2Dimsx%3Apattern%29"><CODE>(?imsx-imsx:pattern)</CODE></A></STRONG><BR>
  440. <DD>
  441. This is for clustering, not capturing; it groups subexpressions like
  442. ``()'', but doesn't make backreferences as ``()'' does.  So
  443. <PRE>
  444.     @fields = split(/\b(?:a|b|c)\b/)</PRE>
  445. <P>is like</P>
  446. <PRE>
  447.     @fields = split(/\b(a|b|c)\b/)</PRE>
  448. <P>but doesn't spit out extra fields.  It's also cheaper not to capture
  449. characters if you don't need to.</P>
  450. <P>Any letters between <CODE>?</CODE> and <CODE>:</CODE> act as flags modifiers as with
  451. <A HREF="#item_%28%3Fimsx%2Dimsx%29"><CODE>(?imsx-imsx)</CODE></A>.  For example,</P>
  452. <PRE>
  453.     /(?s-i:more.*than).*million/i</PRE>
  454. <P>is equivalent to the more verbose</P>
  455. <PRE>
  456.     /(?:(?s-i)more.*than).*million/i</PRE>
  457. <P></P>
  458. <DT><STRONG><A NAME="item_%28%3F%3Dpattern%29"><CODE>(?=pattern)</CODE></A></STRONG><BR>
  459. <DD>
  460. A zero-width positive look-ahead assertion.  For example, <CODE>/\w+(?=\t)/</CODE>
  461. matches a word followed by a tab, without including the tab in <CODE>$&</CODE>.
  462. <P></P>
  463. <DT><STRONG><A NAME="item_%28%3F%21pattern%29"><CODE>(?!pattern)</CODE></A></STRONG><BR>
  464. <DD>
  465. A zero-width negative look-ahead assertion.  For example <CODE>/foo(?!bar)/</CODE>
  466. matches any occurrence of ``foo'' that isn't followed by ``bar''.  Note
  467. however that look-ahead and look-behind are NOT the same thing.  You cannot
  468. use this for look-behind.
  469. <P>If you are looking for a ``bar'' that isn't preceded by a ``foo'', <CODE>/(?!foo)bar/</CODE>
  470. will not do what you want.  That's because the <CODE>(?!foo)</CODE> is just saying that
  471. the next thing cannot be ``foo''--and it's not, it's a ``bar'', so ``foobar'' will
  472. match.  You would have to do something like <CODE>/(?!foo)...bar/</CODE> for that.   We
  473. say ``like'' because there's the case of your ``bar'' not having three characters
  474. before it.  You could cover that this way: <CODE>/(?:(?!foo)...|^.{0,2})bar/</CODE>.
  475. Sometimes it's still easier just to say:</P>
  476. <PRE>
  477.     if (/bar/ && $` !~ /foo$/)</PRE>
  478. <P>For look-behind see below.</P>
  479. <P></P>
  480. <DT><STRONG><A NAME="item_%28%3F%3C%3Dpattern%29"><CODE>(?<=pattern)</CODE></A></STRONG><BR>
  481. <DD>
  482. A zero-width positive look-behind assertion.  For example, <CODE>/(?<=\t)\w+/</CODE>
  483. matches a word that follows a tab, without including the tab in <CODE>$&</CODE>.
  484. Works only for fixed-width look-behind.
  485. <P></P>
  486. <DT><STRONG><A NAME="item_%28%3F%3C%21pattern%29"><CODE>(?<!pattern)</CODE></A></STRONG><BR>
  487. <DD>
  488. A zero-width negative look-behind assertion.  For example <CODE>/(?<!bar)foo/</CODE>
  489. matches any occurrence of ``foo'' that does not follow ``bar''.  Works
  490. only for fixed-width look-behind.
  491. <P></P>
  492. <DT><STRONG><A NAME="item_%28%3F%7B_code_%7D%29"><CODE>(?{ code })</CODE></A></STRONG><BR>
  493. <DD>
  494. <STRONG>WARNING</STRONG>: This extended regular expression feature is considered
  495. highly experimental, and may be changed or deleted without notice.
  496. <P>This zero-width assertion evaluate any embedded Perl code.  It
  497. always succeeds, and its <CODE>code</CODE> is not interpolated.  Currently,
  498. the rules to determine where the <CODE>code</CODE> ends are somewhat convoluted.</P>
  499. <P>The <CODE>code</CODE> is properly scoped in the following sense: If the assertion
  500. is backtracked (compare <A HREF="#backtracking">Backtracking</A>), all changes introduced after
  501. <A HREF="../../lib/Pod/perlfunc.html#item_local"><CODE>local</CODE></A>ization are undone, so that</P>
  502. <PRE>
  503.   $_ = 'a' x 8;
  504.   m< 
  505.      (?{ $cnt = 0 })                    # Initialize $cnt.
  506.      (
  507.        a 
  508.        (?{
  509.            local $cnt = $cnt + 1;       # Update $cnt, backtracking-safe.
  510.        })
  511.      )*  
  512.      aaaa
  513.      (?{ $res = $cnt })                 # On success copy to non-localized
  514.                                         # location.
  515.    >x;</PRE>
  516. <P>will set <CODE>$res = 4</CODE>.  Note that after the match, $cnt returns to the globally
  517. introduced value, because the scopes that restrict <A HREF="../../lib/Pod/perlfunc.html#item_local"><CODE>local</CODE></A> operators
  518. are unwound.</P>
  519. <P>This assertion may be used as a <A HREF="#item_%28%3F%28condition%29yes%2Dpattern%7Cno%2Dpattern%"><CODE>(?(condition)yes-pattern|no-pattern)</CODE></A>
  520. switch.  If <EM>not</EM> used in this way, the result of evaluation of
  521. <CODE>code</CODE> is put into the special variable <CODE>$^R</CODE>.  This happens
  522. immediately, so <CODE>$^R</CODE> can be used from other <A HREF="#item_%28%3F%7B_code_%7D%29"><CODE>(?{ code })</CODE></A> assertions
  523. inside the same regular expression.</P>
  524. <P>The assignment to <CODE>$^R</CODE> above is properly localized, so the old
  525. value of <CODE>$^R</CODE> is restored if the assertion is backtracked; compare
  526. <A HREF="#backtracking">Backtracking</A>.</P>
  527. <P>For reasons of security, this construct is forbidden if the regular
  528. expression involves run-time interpolation of variables, unless the
  529. perilous <CODE>use re 'eval'</CODE> pragma has been used (see <A HREF="../../lib/re.html">the re manpage</A>), or the
  530. variables contain results of <CODE>qr//</CODE> operator (see
  531. <A HREF="../../lib/Pod/perlop.html#qr/string/imosx">qr/STRING/imosx in the perlop manpage</A>).</P>
  532. <P>This restriction is because of the wide-spread and remarkably convenient
  533. custom of using run-time determined strings as patterns.  For example:</P>
  534. <PRE>
  535.     $re = <>;
  536.     chomp $re;
  537.     $string =~ /$re/;</PRE>
  538. <P>Before Perl knew how to execute interpolated code within a pattern,
  539. this operation was completely safe from a security point of view,
  540. although it could raise an exception from an illegal pattern.  If
  541. you turn on the <CODE>use re 'eval'</CODE>, though, it is no longer secure,
  542. so you should only do so if you are also using taint checking.
  543. Better yet, use the carefully constrained evaluation within a Safe
  544. module.  See <A HREF="../../lib/Pod/perlsec.html">the perlsec manpage</A> for details about both these mechanisms.</P>
  545. <P></P>
  546. <DT><STRONG><A NAME="item_%28%3F%3F%7B_code_%7D%29"><CODE>(??{ code })</CODE></A></STRONG><BR>
  547. <DD>
  548. <STRONG>WARNING</STRONG>: This extended regular expression feature is considered
  549. highly experimental, and may be changed or deleted without notice.
  550. A simplified version of the syntax may be introduced for commonly
  551. used idioms.
  552. <P>This is a ``postponed'' regular subexpression.  The <CODE>code</CODE> is evaluated
  553. at run time, at the moment this subexpression may match.  The result
  554. of evaluation is considered as a regular expression and matched as
  555. if it were inserted instead of this construct.</P>
  556. <P>The <CODE>code</CODE> is not interpolated.  As before, the rules to determine
  557. where the <CODE>code</CODE> ends are currently somewhat convoluted.</P>
  558. <P>The following pattern matches a parenthesized group:</P>
  559. <PRE>
  560.   $re = qr{
  561.              \(
  562.              (?:
  563.                 (?> [^()]+ )    # Non-parens without backtracking
  564.               |
  565.                 (??{ $re })     # Group with matching parens
  566.              )*
  567.              \)
  568.           }x;</PRE>
  569. <P></P>
  570. <DT><STRONG><A NAME="item_%28%3F%3Epattern%29"><CODE>(?>pattern)</CODE></A></STRONG><BR>
  571. <DD>
  572. <STRONG>WARNING</STRONG>: This extended regular expression feature is considered
  573. highly experimental, and may be changed or deleted without notice.
  574. <P>An ``independent'' subexpression, one which matches the substring
  575. that a <EM>standalone</EM> <CODE>pattern</CODE> would match if anchored at the given
  576. position, and it matches <EM>nothing other than this substring</EM>.  This
  577. construct is useful for optimizations of what would otherwise be
  578. ``eternal'' matches, because it will not backtrack (see <A HREF="#backtracking">Backtracking</A>).
  579. It may also be useful in places where the ``grab all you can, and do not
  580. give anything back'' semantic is desirable.</P>
  581. <P>For example: <CODE>^(?>a*)ab</CODE> will never match, since <CODE>(?>a*)</CODE>
  582. (anchored at the beginning of string, as above) will match <EM>all</EM>
  583. characters <CODE>a</CODE> at the beginning of string, leaving no <CODE>a</CODE> for
  584. <CODE>ab</CODE> to match.  In contrast, <CODE>a*ab</CODE> will match the same as <CODE>a+b</CODE>,
  585. since the match of the subgroup <CODE>a*</CODE> is influenced by the following
  586. group <CODE>ab</CODE> (see <A HREF="#backtracking">Backtracking</A>).  In particular, <CODE>a*</CODE> inside
  587. <CODE>a*ab</CODE> will match fewer characters than a standalone <CODE>a*</CODE>, since
  588. this makes the tail match.</P>
  589. <P>An effect similar to <A HREF="#item_%28%3F%3Epattern%29"><CODE>(?>pattern)</CODE></A> may be achieved by writing
  590. <CODE>(?=(pattern))\1</CODE>.  This matches the same substring as a standalone
  591. <CODE>a+</CODE>, and the following <CODE>\1</CODE> eats the matched string; it therefore
  592. makes a zero-length assertion into an analogue of <CODE>(?>...)</CODE>.
  593. (The difference between these two constructs is that the second one
  594. uses a capturing group, thus shifting ordinals of backreferences
  595. in the rest of a regular expression.)</P>
  596. <P>Consider this pattern:</P>
  597. <PRE>
  598.     m{ \(
  599.           ( 
  600.             [^()]+              # x+
  601.           | 
  602.             \( [^()]* \)
  603.           )+
  604.        \) 
  605.      }x</PRE>
  606. <P>That will efficiently match a nonempty group with matching parentheses
  607. two levels deep or less.  However, if there is no such group, it
  608. will take virtually forever on a long string.  That's because there
  609. are so many different ways to split a long string into several
  610. substrings.  This is what <CODE>(.+)+</CODE> is doing, and <CODE>(.+)+</CODE> is similar
  611. to a subpattern of the above pattern.  Consider how the pattern
  612. above detects no-match on <CODE>((()aaaaaaaaaaaaaaaaaa</CODE> in several
  613. seconds, but that each extra letter doubles this time.  This
  614. exponential performance will make it appear that your program has
  615. hung.  However, a tiny change to this pattern</P>
  616. <PRE>
  617.     m{ \( 
  618.           ( 
  619.             (?> [^()]+ )        # change x+ above to (?> x+ )
  620.           | 
  621.             \( [^()]* \)
  622.           )+
  623.        \) 
  624.      }x</PRE>
  625. <P>which uses <CODE>(?>...)</CODE> matches exactly when the one above does (verifying
  626. this yourself would be a productive exercise), but finishes in a fourth
  627. the time when used on a similar string with 1000000 <CODE>a</CODE>s.  Be aware,
  628. however, that this pattern currently triggers a warning message under
  629. the <CODE>use warnings</CODE> pragma or <STRONG>-w</STRONG> switch saying it
  630. <CODE>"matches the null string many times"</CODE>):</P>
  631. <P>On simple groups, such as the pattern <CODE>(?> [^()]+ )</CODE>, a comparable
  632. effect may be achieved by negative look-ahead, as in <CODE>[^()]+ (?! [^()] )</CODE>.
  633. This was only 4 times slower on a string with 1000000 <CODE>a</CODE>s.</P>
  634. <P>The ``grab all you can, and do not give anything back'' semantic is desirable
  635. in many situations where on the first sight a simple <CODE>()*</CODE> looks like
  636. the correct solution.  Suppose we parse text with comments being delimited
  637. by <CODE>#</CODE> followed by some optional (horizontal) whitespace.  Contrary to
  638. its appearence, <CODE>#[ \t]*</CODE> <EM>is not</EM> the correct subexpression to match
  639. the comment delimiter, because it may ``give up'' some whitespace if
  640. the remainder of the pattern can be made to match that way.  The correct
  641. answer is either one of these:</P>
  642. <PRE>
  643.     (?>#[ \t]*)
  644.     #[ \t]*(?![ \t])</PRE>
  645. <P>For example, to grab non-empty comments into $1, one should use either
  646. one of these:</P>
  647. <PRE>
  648.     / (?> \# [ \t]* ) (        .+ ) /x;
  649.     /     \# [ \t]*   ( [^ \t] .* ) /x;</PRE>
  650. <P>Which one you pick depends on which of these expressions better reflects
  651. the above specification of comments.</P>
  652. <P></P>
  653. <DT><STRONG><A NAME="item_%28%3F%28condition%29yes%2Dpattern%7Cno%2Dpattern%"><CODE>(?(condition)yes-pattern|no-pattern)</CODE></A></STRONG><BR>
  654. <DD>
  655. <DT><STRONG><A NAME="item_%28%3F%28condition%29yes%2Dpattern%29"><CODE>(?(condition)yes-pattern)</CODE></A></STRONG><BR>
  656. <DD>
  657. <STRONG>WARNING</STRONG>: This extended regular expression feature is considered
  658. highly experimental, and may be changed or deleted without notice.
  659. <P>Conditional expression.  <CODE>(condition)</CODE> should be either an integer in
  660. parentheses (which is valid if the corresponding pair of parentheses
  661. matched), or look-ahead/look-behind/evaluate zero-width assertion.</P>
  662. <P>For example:</P>
  663. <PRE>
  664.     m{ ( \( )? 
  665.        [^()]+ 
  666.        (?(1) \) ) 
  667.      }x</PRE>
  668. <P>matches a chunk of non-parentheses, possibly included in parentheses
  669. themselves.</P>
  670. <P></P></DL>
  671. <P>
  672. <H2><A NAME="backtracking">Backtracking</A></H2>
  673. <P>NOTE: This section presents an abstract approximation of regular
  674. expression behavior.  For a more rigorous (and complicated) view of
  675. the rules involved in selecting a match among possible alternatives,
  676. see <A HREF="#combining pieces together">Combining pieces together</A>.</P>
  677. <P>A fundamental feature of regular expression matching involves the
  678. notion called <EM>backtracking</EM>, which is currently used (when needed)
  679. by all regular expression quantifiers, namely <CODE>*</CODE>, <CODE>*?</CODE>, <CODE>+</CODE>,
  680. <CODE>+?</CODE>, <CODE>{n,m}</CODE>, and <CODE>{n,m}?</CODE>.  Backtracking is often optimized
  681. internally, but the general principle outlined here is valid.</P>
  682. <P>For a regular expression to match, the <EM>entire</EM> regular expression must
  683. match, not just part of it.  So if the beginning of a pattern containing a
  684. quantifier succeeds in a way that causes later parts in the pattern to
  685. fail, the matching engine backs up and recalculates the beginning
  686. part--that's why it's called backtracking.</P>
  687. <P>Here is an example of backtracking:  Let's say you want to find the
  688. word following ``foo'' in the string ``Food is on the foo table.'':</P>
  689. <PRE>
  690.     $_ = "Food is on the foo table.";
  691.     if ( /\b(foo)\s+(\w+)/i ) {
  692.         print "$2 follows $1.\n";
  693.     }</PRE>
  694. <P>When the match runs, the first part of the regular expression (<CODE>\b(foo)</CODE>)
  695. finds a possible match right at the beginning of the string, and loads up
  696. $1 with ``Foo''.  However, as soon as the matching engine sees that there's
  697. no whitespace following the ``Foo'' that it had saved in $1, it realizes its
  698. mistake and starts over again one character after where it had the
  699. tentative match.  This time it goes all the way until the next occurrence
  700. of ``foo''. The complete regular expression matches this time, and you get
  701. the expected output of ``table follows foo.''</P>
  702. <P>Sometimes minimal matching can help a lot.  Imagine you'd like to match
  703. everything between ``foo'' and ``bar''.  Initially, you write something
  704. like this:</P>
  705. <PRE>
  706.     $_ =  "The food is under the bar in the barn.";
  707.     if ( /foo(.*)bar/ ) {
  708.         print "got <$1>\n";
  709.     }</PRE>
  710. <P>Which perhaps unexpectedly yields:</P>
  711. <PRE>
  712.   got <d is under the bar in the ></PRE>
  713. <P>That's because <CODE>.*</CODE> was greedy, so you get everything between the
  714. <EM>first</EM> ``foo'' and the <EM>last</EM> ``bar''.  Here it's more effective
  715. to use minimal matching to make sure you get the text between a ``foo''
  716. and the first ``bar'' thereafter.</P>
  717. <PRE>
  718.     if ( /foo(.*?)bar/ ) { print "got <$1>\n" }
  719.   got <d is under the ></PRE>
  720. <P>Here's another example: let's say you'd like to match a number at the end
  721. of a string, and you also want to keep the preceding part the match.
  722. So you write this:</P>
  723. <PRE>
  724.     $_ = "I have 2 numbers: 53147";
  725.     if ( /(.*)(\d*)/ ) {                                # Wrong!
  726.         print "Beginning is <$1>, number is <$2>.\n";
  727.     }</PRE>
  728. <P>That won't work at all, because <CODE>.*</CODE> was greedy and gobbled up the
  729. whole string. As <CODE>\d*</CODE> can match on an empty string the complete
  730. regular expression matched successfully.</P>
  731. <PRE>
  732.     Beginning is <I have 2 numbers: 53147>, number is <>.</PRE>
  733. <P>Here are some variants, most of which don't work:</P>
  734. <PRE>
  735.     $_ = "I have 2 numbers: 53147";
  736.     @pats = qw{
  737.         (.*)(\d*)
  738.         (.*)(\d+)
  739.         (.*?)(\d*)
  740.         (.*?)(\d+)
  741.         (.*)(\d+)$
  742.         (.*?)(\d+)$
  743.         (.*)\b(\d+)$
  744.         (.*\D)(\d+)$
  745.     };</PRE>
  746. <PRE>
  747.     for $pat (@pats) {
  748.         printf "%-12s ", $pat;
  749.         if ( /$pat/ ) {
  750.             print "<$1> <$2>\n";
  751.         } else {
  752.             print "FAIL\n";
  753.         }
  754.     }</PRE>
  755. <P>That will print out:</P>
  756. <PRE>
  757.     (.*)(\d*)    <I have 2 numbers: 53147> <>
  758.     (.*)(\d+)    <I have 2 numbers: 5314> <7>
  759.     (.*?)(\d*)   <> <>
  760.     (.*?)(\d+)   <I have > <2>
  761.     (.*)(\d+)$   <I have 2 numbers: 5314> <7>
  762.     (.*?)(\d+)$  <I have 2 numbers: > <53147>
  763.     (.*)\b(\d+)$ <I have 2 numbers: > <53147>
  764.     (.*\D)(\d+)$ <I have 2 numbers: > <53147></PRE>
  765. <P>As you see, this can be a bit tricky.  It's important to realize that a
  766. regular expression is merely a set of assertions that gives a definition
  767. of success.  There may be 0, 1, or several different ways that the
  768. definition might succeed against a particular string.  And if there are
  769. multiple ways it might succeed, you need to understand backtracking to
  770. know which variety of success you will achieve.</P>
  771. <P>When using look-ahead assertions and negations, this can all get even
  772. tricker.  Imagine you'd like to find a sequence of non-digits not
  773. followed by ``123''.  You might try to write that as</P>
  774. <PRE>
  775.     $_ = "ABC123";
  776.     if ( /^\D*(?!123)/ ) {              # Wrong!
  777.         print "Yup, no 123 in $_\n";
  778.     }</PRE>
  779. <P>But that isn't going to match; at least, not the way you're hoping.  It
  780. claims that there is no 123 in the string.  Here's a clearer picture of
  781. why it that pattern matches, contrary to popular expectations:</P>
  782. <PRE>
  783.     $x = 'ABC123' ;
  784.     $y = 'ABC445' ;</PRE>
  785. <PRE>
  786.     print "1: got $1\n" if $x =~ /^(ABC)(?!123)/ ;
  787.     print "2: got $1\n" if $y =~ /^(ABC)(?!123)/ ;</PRE>
  788. <PRE>
  789.     print "3: got $1\n" if $x =~ /^(\D*)(?!123)/ ;
  790.     print "4: got $1\n" if $y =~ /^(\D*)(?!123)/ ;</PRE>
  791. <P>This prints</P>
  792. <PRE>
  793.     2: got ABC
  794.     3: got AB
  795.     4: got ABC</PRE>
  796. <P>You might have expected test 3 to fail because it seems to a more
  797. general purpose version of test 1.  The important difference between
  798. them is that test 3 contains a quantifier (<CODE>\D*</CODE>) and so can use
  799. backtracking, whereas test 1 will not.  What's happening is
  800. that you've asked ``Is it true that at the start of $x, following 0 or more
  801. non-digits, you have something that's not 123?''  If the pattern matcher had
  802. let <CODE>\D*</CODE> expand to ``ABC'', this would have caused the whole pattern to
  803. fail.</P>
  804. <P>The search engine will initially match <CODE>\D*</CODE> with ``ABC''.  Then it will
  805. try to match <CODE>(?!123</CODE> with ``123'', which fails.  But because
  806. a quantifier (<CODE>\D*</CODE>) has been used in the regular expression, the
  807. search engine can backtrack and retry the match differently
  808. in the hope of matching the complete regular expression.</P>
  809. <P>The pattern really, <EM>really</EM> wants to succeed, so it uses the
  810. standard pattern back-off-and-retry and lets <CODE>\D*</CODE> expand to just ``AB'' this
  811. time.  Now there's indeed something following ``AB'' that is not
  812. ``123''.  It's ``C123'', which suffices.</P>
  813. <P>We can deal with this by using both an assertion and a negation.
  814. We'll say that the first part in $1 must be followed both by a digit
  815. and by something that's not ``123''.  Remember that the look-aheads
  816. are zero-width expressions--they only look, but don't consume any
  817. of the string in their match.  So rewriting this way produces what
  818. you'd expect; that is, case 5 will fail, but case 6 succeeds:</P>
  819. <PRE>
  820.     print "5: got $1\n" if $x =~ /^(\D*)(?=\d)(?!123)/ ;
  821.     print "6: got $1\n" if $y =~ /^(\D*)(?=\d)(?!123)/ ;</PRE>
  822. <PRE>
  823.     6: got ABC</PRE>
  824. <P>In other words, the two zero-width assertions next to each other work as though
  825. they're ANDed together, just as you'd use any built-in assertions:  <CODE>/^$/</CODE>
  826. matches only if you're at the beginning of the line AND the end of the
  827. line simultaneously.  The deeper underlying truth is that juxtaposition in
  828. regular expressions always means AND, except when you write an explicit OR
  829. using the vertical bar.  <CODE>/ab/</CODE> means match ``a'' AND (then) match ``b'',
  830. although the attempted matches are made at different positions because ``a''
  831. is not a zero-width assertion, but a one-width assertion.</P>
  832. <P><STRONG>WARNING</STRONG>: particularly complicated regular expressions can take
  833. exponential time to solve because of the immense number of possible
  834. ways they can use backtracking to try match.  For example, without
  835. internal optimizations done by the regular expression engine, this will
  836. take a painfully long time to run:</P>
  837. <PRE>
  838.     'aaaaaaaaaaaa' =~ /((a{0,5}){0,5}){0,5}[c]/</PRE>
  839. <P>And if you used <CODE>*</CODE>'s instead of limiting it to 0 through 5 matches,
  840. then it would take forever--or until you ran out of stack space.</P>
  841. <P>A powerful tool for optimizing such beasts is what is known as an
  842. ``independent group'',
  843. which does not backtrack (see <CODE>< (?>pattern) ></CODE>).  Note also that
  844. zero-length look-ahead/look-behind assertions will not backtrack to make
  845. the tail match, since they are in ``logical'' context: only 
  846. whether they match is considered relevant.  For an example
  847. where side-effects of look-ahead <EM>might</EM> have influenced the
  848. following match, see <CODE>< (?>pattern) ></CODE>.</P>
  849. <P>
  850. <H2><A NAME="version 8 regular expressions">Version 8 Regular Expressions</A></H2>
  851. <P>In case you're not familiar with the ``regular'' Version 8 regex
  852. routines, here are the pattern-matching rules not described above.</P>
  853. <P>Any single character matches itself, unless it is a <EM>metacharacter</EM>
  854. with a special meaning described here or above.  You can cause
  855. characters that normally function as metacharacters to be interpreted
  856. literally by prefixing them with a ``\'' (e.g., ``\.'' matches a ``.'', not any
  857. character; ``\\'' matches a ``\'').  A series of characters matches that
  858. series of characters in the target string, so the pattern <CODE>blurfl</CODE>
  859. would match ``blurfl'' in the target string.</P>
  860. <P>You can specify a character class, by enclosing a list of characters
  861. in <CODE>[]</CODE>, which will match any one character from the list.  If the
  862. first character after the ``['' is ``^'', the class matches any character not
  863. in the list.  Within a list, the ``-'' character specifies a
  864. range, so that <CODE>a-z</CODE> represents all characters between ``a'' and ``z'',
  865. inclusive.  If you want either ``-'' or ``]'' itself to be a member of a
  866. class, put it at the start of the list (possibly after a ``^''), or
  867. escape it with a backslash.  ``-'' is also taken literally when it is
  868. at the end of the list, just before the closing ``]''.  (The
  869. following all specify the same class of three characters: <CODE>[-az]</CODE>,
  870. <CODE>[az-]</CODE>, and <CODE>[a\-z]</CODE>.  All are different from <CODE>[a-z]</CODE>, which
  871. specifies a class containing twenty-six characters.)
  872. Also, if you try to use the character classes <CODE>\w</CODE>, <CODE>\W</CODE>, <CODE>\s</CODE>,
  873. <CODE>\S</CODE>, <CODE>\d</CODE>, or <CODE>\D</CODE> as endpoints of a range, that's not a range,
  874. the ``-'' is understood literally.</P>
  875. <P>Note also that the whole range idea is rather unportable between
  876. character sets--and even within character sets they may cause results
  877. you probably didn't expect.  A sound principle is to use only ranges
  878. that begin from and end at either alphabets of equal case ([a-e],
  879. [A-E]), or digits ([0-9]).  Anything else is unsafe.  If in doubt,
  880. spell out the character sets in full.</P>
  881. <P>Characters may be specified using a metacharacter syntax much like that
  882. used in C: ``\n'' matches a newline, ``\t'' a tab, ``\r'' a carriage return,
  883. ``\f'' a form feed, etc.  More generally, \<EM>nnn</EM>, where <EM>nnn</EM> is a string
  884. of octal digits, matches the character whose ASCII value is <EM>nnn</EM>.
  885. Similarly, \x<EM>nn</EM>, where <EM>nn</EM> are hexadecimal digits, matches the
  886. character whose ASCII value is <EM>nn</EM>. The expression \c<EM>x</EM> matches the
  887. ASCII character control-<EM>x</EM>.  Finally, the ``.'' metacharacter matches any
  888. character except ``\n'' (unless you use <CODE>/s</CODE>).</P>
  889. <P>You can specify a series of alternatives for a pattern using ``|'' to
  890. separate them, so that <CODE>fee|fie|foe</CODE> will match any of ``fee'', ``fie'',
  891. or ``foe'' in the target string (as would <CODE>f(e|i|o)e</CODE>).  The
  892. first alternative includes everything from the last pattern delimiter
  893. (``('', ``['', or the beginning of the pattern) up to the first ``|'', and
  894. the last alternative contains everything from the last ``|'' to the next
  895. pattern delimiter.  That's why it's common practice to include
  896. alternatives in parentheses: to minimize confusion about where they
  897. start and end.</P>
  898. <P>Alternatives are tried from left to right, so the first
  899. alternative found for which the entire expression matches, is the one that
  900. is chosen. This means that alternatives are not necessarily greedy. For
  901. example: when matching <CODE>foo|foot</CODE> against ``barefoot'', only the ``foo''
  902. part will match, as that is the first alternative tried, and it successfully
  903. matches the target string. (This might not seem important, but it is
  904. important when you are capturing matched text using parentheses.)</P>
  905. <P>Also remember that ``|'' is interpreted as a literal within square brackets,
  906. so if you write <CODE>[fee|fie|foe]</CODE> you're really only matching <CODE>[feio|]</CODE>.</P>
  907. <P>Within a pattern, you may designate subpatterns for later reference
  908. by enclosing them in parentheses, and you may refer back to the
  909. <EM>n</EM>th subpattern later in the pattern using the metacharacter
  910. \<EM>n</EM>.  Subpatterns are numbered based on the left to right order
  911. of their opening parenthesis.  A backreference matches whatever
  912. actually matched the subpattern in the string being examined, not
  913. the rules for that subpattern.  Therefore, <CODE>(0|0x)\d*\s\1\d*</CODE> will
  914. match ``0x1234 0x4321'', but not ``0x1234 01234'', because subpattern
  915. 1 matched ``0x'', even though the rule <CODE>0|0x</CODE> could potentially match
  916. the leading 0 in the second number.</P>
  917. <P>
  918. <H2><A NAME="warning on \1 vs $1">Warning on \1 vs $1</A></H2>
  919. <P>Some people get too used to writing things like:</P>
  920. <PRE>
  921.     $pattern =~ s/(\W)/\\\1/g;</PRE>
  922. <P>This is grandfathered for the RHS of a substitute to avoid shocking the
  923. <STRONG>sed</STRONG> addicts, but it's a dirty habit to get into.  That's because in
  924. PerlThink, the righthand side of a <CODE>s///</CODE> is a double-quoted string.  <CODE>\1</CODE> in
  925. the usual double-quoted string means a control-A.  The customary Unix
  926. meaning of <CODE>\1</CODE> is kludged in for <CODE>s///</CODE>.  However, if you get into the habit
  927. of doing that, you get yourself into trouble if you then add an <CODE>/e</CODE>
  928. modifier.</P>
  929. <PRE>
  930.     s/(\d+)/ \1 + 1 /eg;        # causes warning under -w</PRE>
  931. <P>Or if you try to do</P>
  932. <PRE>
  933.     s/(\d+)/\1000/;</PRE>
  934. <P>You can't disambiguate that by saying <CODE>\{1}000</CODE>, whereas you can fix it with
  935. <CODE>${1}000</CODE>.  The operation of interpolation should not be confused
  936. with the operation of matching a backreference.  Certainly they mean two
  937. different things on the <EM>left</EM> side of the <CODE>s///</CODE>.</P>
  938. <P>
  939. <H2><A NAME="repeated patterns matching zerolength substring">Repeated patterns matching zero-length substring</A></H2>
  940. <P><STRONG>WARNING</STRONG>: Difficult material (and prose) ahead.  This section needs a rewrite.</P>
  941. <P>Regular expressions provide a terse and powerful programming language.  As
  942. with most other power tools, power comes together with the ability
  943. to wreak havoc.</P>
  944. <P>A common abuse of this power stems from the ability to make infinite
  945. loops using regular expressions, with something as innocuous as:</P>
  946. <PRE>
  947.     'foo' =~ m{ ( o? )* }x;</PRE>
  948. <P>The <CODE>o?</CODE> can match at the beginning of <CODE>'foo'</CODE>, and since the position
  949. in the string is not moved by the match, <CODE>o?</CODE> would match again and again
  950. because of the <CODE>*</CODE> modifier.  Another common way to create a similar cycle
  951. is with the looping modifier <CODE>//g</CODE>:</P>
  952. <PRE>
  953.     @matches = ( 'foo' =~ m{ o? }xg );</PRE>
  954. <P>or</P>
  955. <PRE>
  956.     print "match: <$&>\n" while 'foo' =~ m{ o? }xg;</PRE>
  957. <P>or the loop implied by split().</P>
  958. <P>However, long experience has shown that many programming tasks may
  959. be significantly simplified by using repeated subexpressions that
  960. may match zero-length substrings.  Here's a simple example being:</P>
  961. <PRE>
  962.     @chars = split //, $string;           # // is not magic in split
  963.     ($whitewashed = $string) =~ s/()/ /g; # parens avoid magic s// /</PRE>
  964. <P>Thus Perl allows such constructs, by <EM>forcefully breaking
  965. the infinite loop</EM>.  The rules for this are different for lower-level
  966. loops given by the greedy modifiers <CODE>*+{}</CODE>, and for higher-level
  967. ones like the <CODE>/g</CODE> modifier or <A HREF="../../lib/Pod/perlfunc.html#item_split"><CODE>split()</CODE></A> operator.</P>
  968. <P>The lower-level loops are <EM>interrupted</EM> (that is, the loop is
  969. broken) when Perl detects that a repeated expression matched a
  970. zero-length substring.   Thus</P>
  971. <PRE>
  972.    m{ (?: NON_ZERO_LENGTH | ZERO_LENGTH )* }x;</PRE>
  973. <P>is made equivalent to</P>
  974. <PRE>
  975.    m{   (?: NON_ZERO_LENGTH )* 
  976.       | 
  977.         (?: ZERO_LENGTH )? 
  978.     }x;</PRE>
  979. <P>The higher level-loops preserve an additional state between iterations:
  980. whether the last match was zero-length.  To break the loop, the following 
  981. match after a zero-length match is prohibited to have a length of zero.
  982. This prohibition interacts with backtracking (see <A HREF="#backtracking">Backtracking</A>), 
  983. and so the <EM>second best</EM> match is chosen if the <EM>best</EM> match is of
  984. zero length.</P>
  985. <P>For example:</P>
  986. <PRE>
  987.     $_ = 'bar';
  988.     s/\w??/<$&>/g;</PRE>
  989. <P>results in <CODE>"<</CODE><b><><a><><r><>``>.  At each position of the string the best
  990. match given by non-greedy <CODE>??</CODE> is the zero-length match, and the <EM>second 
  991. best</EM> match is what is matched by <CODE>\w</CODE>.  Thus zero-length matches
  992. alternate with one-character-long matches.</P>
  993. <P>Similarly, for repeated <CODE>m/()/g</CODE> the second-best match is the match at the 
  994. position one notch further in the string.</P>
  995. <P>The additional state of being <EM>matched with zero-length</EM> is associated with
  996. the matched string, and is reset by each assignment to pos().
  997. Zero-length matches at the end of the previous match are ignored
  998. during <A HREF="../../lib/Pod/perlfunc.html#item_split"><CODE>split</CODE></A>.</P>
  999. <P>
  1000. <H2><A NAME="combining pieces together">Combining pieces together</A></H2>
  1001. <P>Each of the elementary pieces of regular expressions which were described
  1002. before (such as <CODE>ab</CODE> or <CODE>\Z</CODE>) could match at most one substring
  1003. at the given position of the input string.  However, in a typical regular
  1004. expression these elementary pieces are combined into more complicated
  1005. patterns using combining operators <A HREF="#item_ST"><CODE>ST</CODE></A>, <A HREF="#item_S%7CT"><CODE>S|T</CODE></A>, <CODE>S*</CODE> etc
  1006. (in these examples <A HREF="#item_S"><CODE>S</CODE></A> and <CODE>T</CODE> are regular subexpressions).</P>
  1007. <P>Such combinations can include alternatives, leading to a problem of choice:
  1008. if we match a regular expression <CODE>a|ab</CODE> against <CODE>"abc"</CODE>, will it match
  1009. substring <CODE>"a"</CODE> or <CODE>"ab"</CODE>?  One way to describe which substring is
  1010. actually matched is the concept of backtracking (see <A HREF="#backtracking">Backtracking</A>).
  1011. However, this description is too low-level and makes you think
  1012. in terms of a particular implementation.</P>
  1013. <P>Another description starts with notions of ``better''/``worse''.  All the
  1014. substrings which may be matched by the given regular expression can be
  1015. sorted from the ``best'' match to the ``worst'' match, and it is the ``best''
  1016. match which is chosen.  This substitutes the question of ``what is chosen?''
  1017. by the question of ``which matches are better, and which are worse?''.</P>
  1018. <P>Again, for elementary pieces there is no such question, since at most
  1019. one match at a given position is possible.  This section describes the
  1020. notion of better/worse for combining operators.  In the description
  1021. below <A HREF="#item_S"><CODE>S</CODE></A> and <CODE>T</CODE> are regular subexpressions.</P>
  1022. <DL>
  1023. <DT><STRONG><A NAME="item_ST"><CODE>ST</CODE></A></STRONG><BR>
  1024. <DD>
  1025. Consider two possible matches, <CODE>AB</CODE> and <CODE>A'B'</CODE>, <CODE>A</CODE> and <CODE>A'</CODE> are
  1026. substrings which can be matched by <A HREF="#item_S"><CODE>S</CODE></A>, <CODE>B</CODE> and <CODE>B'</CODE> are substrings
  1027. which can be matched by <CODE>T</CODE>.
  1028. <P>If <CODE>A</CODE> is better match for <A HREF="#item_S"><CODE>S</CODE></A> than <CODE>A'</CODE>, <CODE>AB</CODE> is a better
  1029. match than <CODE>A'B'</CODE>.</P>
  1030. <P>If <CODE>A</CODE> and <CODE>A'</CODE> coincide: <CODE>AB</CODE> is a better match than <CODE>AB'</CODE> if
  1031. <CODE>B</CODE> is better match for <CODE>T</CODE> than <CODE>B'</CODE>.</P>
  1032. <P></P>
  1033. <DT><STRONG><A NAME="item_S%7CT"><CODE>S|T</CODE></A></STRONG><BR>
  1034. <DD>
  1035. When <A HREF="#item_S"><CODE>S</CODE></A> can match, it is a better match than when only <CODE>T</CODE> can match.
  1036. <P>Ordering of two matches for <A HREF="#item_S"><CODE>S</CODE></A> is the same as for <A HREF="#item_S"><CODE>S</CODE></A>.  Similar for
  1037. two matches for <CODE>T</CODE>.</P>
  1038. <P></P>
  1039. <DT><STRONG><A NAME="item_S"><CODE>S{REPEAT_COUNT}</CODE></A></STRONG><BR>
  1040. <DD>
  1041. Matches as <CODE>SSS...S</CODE> (repeated as many times as necessary).
  1042. <P></P>
  1043. <DT><STRONG><CODE>S{min,max}</CODE></STRONG><BR>
  1044. <DD>
  1045. Matches as <A HREF="#item_S"><CODE>S{max}|S{max-1}|...|S{min+1}|S{min}</CODE></A>.
  1046. <P></P>
  1047. <DT><STRONG><A NAME="item_S%7Bmin%2Cmax%7D%3F"><CODE>S{min,max}?</CODE></A></STRONG><BR>
  1048. <DD>
  1049. Matches as <A HREF="#item_S"><CODE>S{min}|S{min+1}|...|S{max-1}|S{max}</CODE></A>.
  1050. <P></P>
  1051. <DT><STRONG><A NAME="item_S%3F%2C_S%2A%2C_S%2B"><CODE>S?</CODE>, <CODE>S*</CODE>, <CODE>S+</CODE></A></STRONG><BR>
  1052. <DD>
  1053. Same as <A HREF="#item_S"><CODE>S{0,1}</CODE></A>, <A HREF="#item_S"><CODE>S{0,BIG_NUMBER}</CODE></A>, <A HREF="#item_S"><CODE>S{1,BIG_NUMBER}</CODE></A> respectively.
  1054. <P></P>
  1055. <DT><STRONG><A NAME="item_S%3F%3F%2C_S%2A%3F%2C_S%2B%3F"><CODE>S??</CODE>, <CODE>S*?</CODE>, <CODE>S+?</CODE></A></STRONG><BR>
  1056. <DD>
  1057. Same as <CODE>S{0,1}?</CODE>, <CODE>S{0,BIG_NUMBER}?</CODE>, <CODE>S{1,BIG_NUMBER}?</CODE> respectively.
  1058. <P></P>
  1059. <DT><STRONG><A NAME="item_%28%3F%3ES%29"><CODE>(?>S)</CODE></A></STRONG><BR>
  1060. <DD>
  1061. Matches the best match for <A HREF="#item_S"><CODE>S</CODE></A> and only that.
  1062. <P></P>
  1063. <DT><STRONG><A NAME="item_%28%3F%3DS%29%2C_%28%3F%3C%3DS%29"><CODE>(?=S)</CODE>, <CODE>(?<=S)</CODE></A></STRONG><BR>
  1064. <DD>
  1065. Only the best match for <A HREF="#item_S"><CODE>S</CODE></A> is considered.  (This is important only if
  1066. <A HREF="#item_S"><CODE>S</CODE></A> has capturing parentheses, and backreferences are used somewhere
  1067. else in the whole regular expression.)
  1068. <P></P>
  1069. <DT><STRONG><A NAME="item_%28%3F%21S%29%2C_%28%3F%3C%21S%29"><CODE>(?!S)</CODE>, <CODE>(?<!S)</CODE></A></STRONG><BR>
  1070. <DD>
  1071. For this grouping operator there is no need to describe the ordering, since
  1072. only whether or not <A HREF="#item_S"><CODE>S</CODE></A> can match is important.
  1073. <P></P>
  1074. <DT><STRONG><A NAME="item_%28%3F%3F%7B_EXPR_%7D%29"><CODE>(??{ EXPR })</CODE></A></STRONG><BR>
  1075. <DD>
  1076. The ordering is the same as for the regular expression which is
  1077. the result of EXPR.
  1078. <P></P>
  1079. <DT><STRONG><CODE>(?(condition)yes-pattern|no-pattern)</CODE></STRONG><BR>
  1080. <DD>
  1081. Recall that which of <CODE>yes-pattern</CODE> or <CODE>no-pattern</CODE> actually matches is
  1082. already determined.  The ordering of the matches is the same as for the
  1083. chosen subexpression.
  1084. <P></P></DL>
  1085. <P>The above recipes describe the ordering of matches <EM>at a given position</EM>.
  1086. One more rule is needed to understand how a match is determined for the
  1087. whole regular expression: a match at an earlier position is always better
  1088. than a match at a later position.</P>
  1089. <P>
  1090. <H2><A NAME="creating custom re engines">Creating custom RE engines</A></H2>
  1091. <P>Overloaded constants (see <A HREF="../../lib/overload.html">the overload manpage</A>) provide a simple way to extend
  1092. the functionality of the RE engine.</P>
  1093. <P>Suppose that we want to enable a new RE escape-sequence <CODE>\Y|</CODE> which
  1094. matches at boundary between white-space characters and non-whitespace
  1095. characters.  Note that <CODE>(?=\S)(?<!\S)|(?!\S)(?<=\S)</CODE> matches exactly
  1096. at these positions, so we want to have each <CODE>\Y|</CODE> in the place of the
  1097. more complicated version.  We can create a module <CODE>customre</CODE> to do
  1098. this:</P>
  1099. <PRE>
  1100.     package customre;
  1101.     use overload;</PRE>
  1102. <PRE>
  1103.     sub import {
  1104.       shift;
  1105.       die "No argument to customre::import allowed" if @_;
  1106.       overload::constant 'qr' => \&convert;
  1107.     }</PRE>
  1108. <PRE>
  1109.     sub invalid { die "/$_[0]/: invalid escape '\\$_[1]'"}</PRE>
  1110. <PRE>
  1111.     my %rules = ( '\\' => '\\', 
  1112.                   'Y|' => qr/(?=\S)(?<!\S)|(?!\S)(?<=\S)/ );
  1113.     sub convert {
  1114.       my $re = shift;
  1115.       $re =~ s{ 
  1116.                 \\ ( \\ | Y . )
  1117.               }
  1118.               { $rules{$1} or invalid($re,$1) }sgex; 
  1119.       return $re;
  1120.     }</PRE>
  1121. <P>Now <CODE>use customre</CODE> enables the new escape in constant regular
  1122. expressions, i.e., those without any runtime variable interpolations.
  1123. As documented in <A HREF="../../lib/overload.html">the overload manpage</A>, this conversion will work only over
  1124. literal parts of regular expressions.  For <CODE>\Y|$re\Y|</CODE> the variable
  1125. part of this regular expression needs to be converted explicitly
  1126. (but only if the special meaning of <CODE>\Y|</CODE> should be enabled inside $re):</P>
  1127. <PRE>
  1128.     use customre;
  1129.     $re = <>;
  1130.     chomp $re;
  1131.     $re = customre::convert $re;
  1132.     /\Y|$re\Y|/;</PRE>
  1133. <P>
  1134. <HR>
  1135. <H1><A NAME="bugs">BUGS</A></H1>
  1136. <P>This document varies from difficult to understand to completely
  1137. and utterly opaque.  The wandering prose riddled with jargon is
  1138. hard to fathom in several places.</P>
  1139. <P>This document needs a rewrite that separates the tutorial content
  1140. from the reference content.</P>
  1141. <P>
  1142. <HR>
  1143. <H1><A NAME="see also">SEE ALSO</A></H1>
  1144. <P><A HREF="../../lib/Pod/perlop.html#regexp quotelike operators">Regexp Quote-Like Operators in the perlop manpage</A>.</P>
  1145. <P><A HREF="../../lib/Pod/perlop.html#gory details of parsing quoted constructs">Gory details of parsing quoted constructs in the perlop manpage</A>.</P>
  1146. <P><A HREF="../../lib/Pod/perlfaq6.html">the perlfaq6 manpage</A>.</P>
  1147. <P><A HREF="../../lib/Pod/perlfunc.html#pos">pos in the perlfunc manpage</A>.</P>
  1148. <P><A HREF="../../lib/Pod/perllocale.html">the perllocale manpage</A>.</P>
  1149. <P><EM>Mastering Regular Expressions</EM> by Jeffrey Friedl, published
  1150. by O'Reilly and Associates.</P>
  1151. <TABLE BORDER=0 CELLPADDING=0 CELLSPACING=0 WIDTH=100%>
  1152. <TR><TD CLASS=block VALIGN=MIDDLE WIDTH=100% BGCOLOR="#cccccc">
  1153. <STRONG><P CLASS=block> perlre - Perl regular expressions</P></STRONG>
  1154. </TD></TR>
  1155. </TABLE>
  1156.  
  1157. </BODY>
  1158.  
  1159. </HTML>
  1160.