25.0 第25章 正则表达式 25.1 语法

第25章 正则表达式

前面章节,我们提到了正则表达式,它提升了文本处理的表达能力,本章就来讨论正则表达式,它是什么?有什么用?各种特殊字符都是什么含义?如何用Java借助正则表达式处理文本?都有哪些常用正则表达式?我们分为4小节进行介绍:25.1节先简要介绍正则表达式的语法;25.2节介绍相关的Java API;25.3节利用Java API实现一个简单的模板引擎;25.4节讨论和分析一些常用的正则表达式。

25.1 语法

正则表达式是一串字符,它描述了一个文本模式,利用它可以方便地处理文本,包括文本的查找、替换、验证、切分等。正则表达式中的字符有两类:一类是普通字符,就是匹配字符本身;另一类是元字符,这些字符有特殊含义,这些元字符及其特殊含义构成了正则表达式的语法。

正则表达式有一个比较长的历史,各种与文本处理有关的工具、编辑器和系统都支持正则表达式,大部分编程语言也都支持正则表达式。虽然都叫正则表达式,但由于历史原因,不同语言、系统和工具的语法不太一样,本书主要针对Java语言,其他语言可能有所差别。

下面,我们就来简要介绍正则表达式的语法,我们先分为以下部分分别介绍:

  • 单个字符;
  • 字符组;
  • 量词;
  • 分组;
  • 特殊边界匹配;
  • 环视边界匹配。

最后针对转义、匹配模式和各种语法进行总结。

1.单个字符

大部分的单个字符就是用字符本身表示的,比如字符’0’、’3’、’a’、’马’等,但有一些单个字符使用多个字符表示,这些字符都以斜杠’\‘开头,比如:
1)特殊字符,比如tab字符’\t‘、换行符’\n‘、回车符’\r‘等。
2)八进制表示的字符,以\0开头,后跟1~3位数字,比如\0141,对应的是ASCII编码为97的字符,即字符’a’。
3)十六进制表示的字符,以\x开头,后跟两位字符,比如\x6A,对应的是ASCII编码为106的字符,即字符’j’。
4)Unicode编号表示的字符,以\u开头,后跟4位字符,比如\u9A6C,表示的是中文字符’马’,这只能表示编号在0xFFFF以下的字符,如果超出0XFFFF,使用\x{...}形式,比如\x{1f48e}
5)斜杠\本身,斜杠\是一个元字符,如果要匹配它自身,使用两个斜杠表示,即’\\‘。
6)元字符本身,除了’\‘,正则表达式中还有很多元字符,比如*?+等,要匹配这些元字符自身,需要在前面加转义字符’\‘,比如’\.‘。

2.字符组

字符组有多种,包括任意字符、多个指定字符之一、字符区间、排除型字符组、预定义的字符组等,下面具体介绍。

点号字符’.’是一个元字符,默认模式下,它匹配除了换行符以外的任意字符,比如正则表达式:

1
a.f

既匹配字符串”abf“,也匹配”acf“。可以指定另外一种匹配模式,一般称为单行匹配模式或者点号匹配模式,在此模式下,’.‘匹配任意字符,包括换行符。可以有两种方式指定匹配模式:一种是在正则表达式中,以(?s)开头,s表示single line,即单行匹配模式。比如:

1
(?s)a.f

另外一种是在程序中指定,在Java中,对应的模式常量是Pattern.DOTALL,下节我们再介绍Java API。

在单个字符和任意字符之间,有一个字符组的概念,匹配组中的任意一个字符,用中括号[]表示,比如:

1
[abcd]

匹配a、b、c、d中的任意一个字符。

1
[0123456789]

匹配任意一个数字字符。

为方便表示连续的多个字符,字符组中可以使用连字符’-‘,比如:

1
2
[0-9]
[a-z]

可以有多个连续空间,可以有其他普通字符,比如:

1
[0-9a-zA-Z_]

在字符组中,’-‘是一个元字符,如果要匹配它自身,可以使用转义,即’-‘,或者把它放在字符组的最前面,比如:

1
[-0-9]

字符组支持排除的概念,在[后紧跟一个字符^,比如:

1
[^abcd]

表示匹配除了a, b, c, d以外的任意一个字符。

1
[^0-9]

表示匹配一个非数字字符。

排除不是不能匹配,而是匹配一个指定字符组以外的字符,要表达不能匹配的含义,需要使用后文介绍的环视语法。^只有在字符组的开头才是元字符,如果不在开头,就是普通字符,匹配它自身,比如:

1
[a^b]

就是匹配字符a, ^或b。

在字符组中,除了^-[ ]\外,其他在字符组外的元字符不再具备特殊含义,变成了普通字符,比如字符’.‘和’*‘, [.*]就是匹配’.‘或者’*‘本身。

有一些特殊的以\开头的字符,表示一些预定义的字符组,比如:

  • \d:d表示digit,匹配一个数字字符,等同于[0-9]
  • \w:w表示word,匹配一个单词字符,等同于[a-zA-Z_0-9]
  • \s:s表示space,匹配一个空白字符,等同于[ \t\n\x0B\f\r]

它们都有对应的排除型字符组,用大写表示,即:

  • \D:匹配一个非数字字符,即[^\d]
  • \W:匹配一个非单词字符,即[^\w]
  • \S:匹配一个非空白字符,即[^\s]

还有一类字符组,称为POSIX字符组,它们是POSIX标准定义的一些字符组,在Java中,这些字符组的形式是\p{...}。POSIX字符组比较多,我们就不介绍了。

3.量词

量词指的是指定出现次数的元字符,有三个常见的元字符:+*?
1)+:表示前面字符的一次或多次出现,比如正则表达式ab+c,既能匹配abc,也能匹配abbc,或abbbc。
2)*:表示前面字符的零次或多次出现,比如正则表达式ab*c,既能匹配abc,也能匹配ac,或abbbc。
3)?:表示前面字符可能出现,也可能不出现,比如正则表达式ab? c,既能匹配abc,也能匹配ac,但不能匹配abbc。

更为通用的表示出现次数的语法是{m,n},出现次数从m到n,包括m和n,如果n没有限制,可以省略,如果m和n一样,可以写为{m},比如:

  • ab{1,10}c:b可以出现1次到10次。
  • ab{3}c:b必须出现三次,即只能匹配abbbc
  • ab{1,}c:与ab+c一样。
  • ab{0,}c:与ab*c一样。
  • ab{0,1}c:与ab?c一样。

需要注意的是,语法必须是严格的{m,n}形式,逗号左右不能有空格。

?*+{是元字符,如果要匹配这些字符本身,需要使用’\‘转义,比如:

1
a\*b

匹配字符串”a*b“。这些量词出现在字符组中时,不是元字符,比如:

1
[? *+{]

就是匹配其中一个字符本身。

关于量词,它们的默认匹配是贪婪的,什么意思呢?看个例子,正则表达式是:

1
<a>.*</a>

如果要处理的字符串是:

1
<a>first</a><a>second</a>

目的是想得到两个匹配,一个匹配:

1
<a>first</a>

另一个匹配:

1
<a>second</a>

但默认情况下,得到的结果却只有一个匹配,匹配所有内容。

这是因为.*可以匹配第一个<a>和最后一个</a>之间的所有字符,只要能匹配,.*就尽量往后匹配,它是贪婪的。如果希望在碰到第一个匹配时就停止呢?应该使用懒惰量词,在量词的后面加一个符号’?‘,针对上例,将表达式改为:

1
<a>.*? </a>

就能得到期望的结果。所有量词都有对应的懒惰形式,比如:x??x*?x+?x{m,n}?等。

4.分组

表达式可以用括号()括起来,表示一个分组,比如a(bc)d, bc就是一个分组。分组可以嵌套,比如a(de(fg))。分组默认都有一个编号,按照括号的出现顺序,从1开始,从左到右依次递增,比如表达式:

1
a(bc)((de)(fg))

字符串abcdefg匹配这个表达式,第1个分组为bc,第2个为defg,第3个为de,第4个为fg。分组0是一个特殊分组,内容是整个匹配的字符串,这里是abcdefg。

分组匹配的子字符串可以在后续访问,好像被捕获了一样,所以默认分组称为捕获分组。关于如何在Java中访问和使用捕获分组,我们下节再介绍。

可以对分组使用量词,表示分组的出现次数,比如a(bc)+d,表示bc出现一次或多次。

中括号[]表示匹配其中的一个字符,括号()和元字符’|’一起,可以表示匹配其中的一个子表达式,比如:

1
(http|ftp|file)

匹配http或ftp或file。

需要注意区分|和[], |用于[]中不再有特殊含义,比如:

1
[a|b]

它的含义不是匹配a或b,而是a或|或b。

在正则表达式中,可以使用斜杠\加分组编号引用之前匹配的分组,这称为回溯引用,比如:

1
<(\w+)>(.*)</\1>

\1匹配之前的第一个分组(\w+),这个表达式可以匹配类似如下字符串:

1
<title>bc</title>

这里,第一个分组是”title”。

使用数字引用分组,可能容易出现混乱,可以对分组进行命名,通过名字引用之前的分组,对分组命名的语法是(? <name>X),引用分组的语法是\k<name>,比如,上面的例子可以写为:

1
<(?<tag>\w+)>(.*)</\k<tag>>

默认分组都称为捕获分组,即分组匹配的内容被捕获了,可以在后续被引用。实现捕获分组有一定的成本,为了提高性能,如果分组后续不需要被引用,可以改为非捕获分组,语法是(?:...),比如:

1
(?:abc|def)

5.特殊边界匹配

在正则表达式中,除了可以指定字符需满足什么条件,还可以指定字符的边界需满足什么条件,或者说匹配特定的边界,常用的表示特殊边界的元字符有^$\A\Z\z\b

默认情况下,^匹配整个字符串的开始,^abc表示整个字符串必须以abc开始。

需要注意的是^的含义,在字符组中它表示排除,但在字符组外,它匹配开始,比如表达式^[^abc],表示以一个不是a、b、c的字符开始。

默认情况下,$匹配整个字符串的结束,不过,如果整个字符串以换行符结束,$匹配的是换行符之前的边界,比如表达式

abc$
,表示整个表达式以abc结束,或者以abc\r\nabc\n结束。

以上^$的含义是默认模式下的,可以指定另外一种匹配模式:多行匹配模式,在此模式下,会以行为单位进行匹配,^匹配的是行开始,$匹配的是行结束,比如表达式是^abc$,字符串是”abc\nabc\r\n“,就会有两个匹配。

可以有两种方式指定匹配模式。一种是在正则表达式中,以(?m)开头,m表示multi-line,即多行匹配模式,上面的正则表达式可以写为:

1
(? m)^abc$

另外一种是在程序中指定,在Java中,对应的模式常量是Pattern.MULTILINE,下节我们再介绍Java API。

需要说明的是,多行模式和之前介绍的单行模式容易混淆,其实,它们之间没有关系。单行模式影响的是字符’.‘的匹配规则,使得’.‘可以匹配换行符多行模式影响的是^$的匹配规则,使得它们可以匹配行的开始和结束,两个模式可以一起使用

\A^类似,但不管什么模式,它匹配的总是整个字符串的开始边界

\Z\z$类似,但不管什么模式,它们匹配的总是整个字符串的结束边界。\Z\z的区别是:如果字符串以换行符结束,\Z$一样,匹配的是换行符之前的边界,而\z匹配的总是结束边界。在进行输入验证的时候,为了确保输入最后没有多余的换行符,可以使用\z进行匹配。

\b匹配的是单词边界,比如\bcat\b,匹配的是完整的单词cat,它不能匹配category。**\b匹配的不是一个具体的字符,而是一种边界,这种边界满足一个要求,即一边是单词字符,另一边不是单词字符**。在Java中,\b识别的单词字符除了\w,还包括中文字符。

边界匹配可能难以理解,我们解释下。边界匹配不同于字符匹配,可以认为,在一个字符串中,每个字符的两边都是边界,而上面介绍的这些特殊字符,匹配的都不是字符,而是特定的边界,看个例子,如图25-1所示。

epub_923038_145

图25-1 边界匹配示例

上面的字符串是”a cat\n”,我们用粗线显示出了每个字符两边的边界,并且显示出了每个边界与哪些边界元字符匹配。

6.环视边界匹配

对于边界匹配,除了使用上面介绍的边界元字符,还有一种更为通用的方式,那就是环视。环视的字面意思就是左右看看,需要左右符合一些条件,本质上,它也是匹配边界,对边界有一些要求,这个要求是针对左边或右边的字符串的。根据要求不同,分为4种环视:
1)肯定顺序环视,语法是(?=...),要求右边的字符串匹配指定的表达式。比如表达式abc(?=def), (?=def)在字符c右面,即匹配c右面的边界。对这个边界的要求是:它的右边有def,比如abcdef,如果没有,比如abcd,则不匹配。
2)否定顺序环视,语法是(?!...),要求右边的字符串不能匹配指定的表达式。比如表达式s(?!ing),匹配一般的s,但不匹配后面有ing的s。注意:避免与排除型字符组混淆,比如s[^ing], s[^ing]匹配的是两个字符,第一个是s,第二个是i、n、g以外的任意一个字符。
3)肯定逆序环视,语法是(?<=...),要求左边的字符串匹配指定的表达式。比如表达式(?<=\s)abc, (?<=\s)在字符a左边,即匹配a左边的边界。对这个边界的要求是:它的左边必须是空白字符。
4)否定逆序环视,语法是(?<!...),要求左边的字符串不能匹配指定的表达式。比如表达式(?<!\w)cat, (?<!\w)在字符c左边,即匹配c左边的边界。对这个边界的要求是:它的左边不能是单词字符。

可以看出,环视也使用括号(),不过,它不是分组,不占用分组编号。

这些环视结构也被称为断言,断言的对象是边界,边界不占用字符,没有宽度,所以也被称为零宽度断言

顺序环视也可以出现在左边,比如表达式:

1
(?=.*[A-Z])\w+

这个表达式是什么意思呢?\w+匹配多个单词字符,(? =.*[A-Z])匹配单词字符的左边界,这是一个肯定顺序环视。对这个边界的要求是,它右边的字符串匹配表达式:

1
.*[A-Z]

也就是说,它右边至少要有一个大写字母。

逆序环视也可以出现在右边,比如表达式:

1
[\w.]+(?<!\.)

[\w.]+匹配单词字符和字符’.’构成的字符串,比如”hello.ma“。(?<!\.)匹配字符串的右边界,这是一个逆序否定环视。对这个边界的要求是:它左边的字符不能是’.‘,也就是说,如果字符串以’.‘结尾,则匹配的字符串中不能包括这个’.‘。比如,如果字符串是”hello.ma.“,则匹配的子字符串是”hello.ma“。

环视匹配的是一个边界,里面的表达式是对这个边界左边或右边字符串的要求,对同一个边界,可以指定多个要求,即写多个环视,比如表达式:

1
(? =.*[A-Z])(? =.*[0-9])\w+

\w+的左边界有两个要求,(?=.*[A-Z])要求后面至少有一个大写字母,(?=.*[0-9])要求后面至少有一位数字。

7.转义与匹配模式

我们知道,字符’'表示转义,转义有两种。
1)把普通字符转义,使其具备特殊含义,比如’\t‘、’\n‘、’\d‘、’\w‘、’\b‘、’\A‘等,也就是说,这个转义把普通字符变为了元字符。
2)把元字符转义,使其变为普通字符,比如’\.‘、’\*‘、’\?‘、’\(‘、’\\‘等。

记住所有的元字符,并在需要的时候进行转义,这是比较困难的,有一个简单的办法,可以将所有元字符看作普通字符,就是在开始处加上\Q,在结束处加上\E,比如:

1
\Q(.*+)\E

\Q\E之间的所有字符都会被视为普通字符。

正则表达式用字符串表示,在Java中,字符’\‘也是字符串语法中的元字符,这使得正则表达式中的’\‘,在Java字符串表示中,要用两个’\‘,即’\\‘,而要匹配字符’\‘本身,在Java字符串表示中,要用4个’\‘,即’\\\`‘,关于这点,下节我们会进一步说明。

前面提到了两种匹配模式,还有一种常用的匹配模式,就是不区分大小写的模式,指定方式也有两种。一种是在正则表达式开头使用(?i), i为ignore,比如:

1
(?i)the

既可以匹配the,也可以匹配THE,还可以匹配The。匹配模式也可以在程序中指定,Java中对应的变量是Pattern.CASE_INSENSITIVE。需要说明的是,匹配模式间不是互斥的关系,它们可以一起使用,在正则表达式中,可以指定多个模式,比如(? smi)。

8.语法总结

下面,我们用表格的形式简要汇总下正则表达式的语法,如表25-1到表25-6所示。

表25-1 单个字符语法

epub_923038_146

表25-2 字符组语法

epub_923038_147

表25-3 量词语法

epub_923038_148

表25-4 分组语法

epub_923038_149

表25-5 边界和环视语法

epub_923038_150

表25-6 匹配模式和转义语法

epub_923038_151