25.0 第25章 正则表达式 25.1 语法
第25章 正则表达式
前面章节,我们提到了正则表达式,它提升了文本处理的表达能力,本章就来讨论正则表达式,它是什么?有什么用?各种特殊字符都是什么含义?如何用Java借助正则表达式处理文本?都有哪些常用正则表达式?我们分为4小节进行介绍:25.1节先简要介绍正则表达式的语法;25.2节介绍相关的Java API;25.3节利用Java API实现一个简单的模板引擎;25.4节讨论和分析一些常用的正则表达式。
25.1 语法
正则表达式是一串字符,它描述了一个文本模式,利用它可以方便地处理文本,包括文本的查找、替换、验证、切分等。正则表达式中的字符有两类:一类是普通字符,就是匹配字符本身;另一类是元字符,这些字符有特殊含义,这些元字符及其特殊含义构成了正则表达式的语法。
正则表达式有一个比较长的历史,各种与文本处理有关的工具、编辑器和系统都支持正则表达式,大部分编程语言也都支持正则表达式。虽然都叫正则表达式,但由于历史原因,不同语言、系统和工具的语法不太一样,本书主要针对Java语言,其他语言可能有所差别。
下面,我们就来简要介绍正则表达式的语法,我们先分为以下部分分别介绍:
- 单个字符;
- 字符组;
- 量词;
- 分组;
- 特殊边界匹配;
- 环视边界匹配。
最后针对转义、匹配模式和各种语法进行总结。
1.单个字符
大部分的单个字符就是用字符本身表示的,比如字符’0’、’3’、’a’、’马’等,但有一些单个字符使用多个字符表示,这些字符都以斜杠’\
‘开头,比如:
1)特殊字符,比如tab字符’\t
‘、换行符’\n
‘、回车符’\r
‘等。
2)八进制表示的字符,以\0
开头,后跟1~3位数字,比如\0141
,对应的是ASCII编码为97的字符,即字符’a’。
3)十六进制表示的字符,以\x
开头,后跟两位字符,比如\x6A
,对应的是ASCII编码为106的字符,即字符’j’。
4)Unicode编号表示的字符,以\u
开头,后跟4位字符,比如\u9A6C
,表示的是中文字符’马’,这只能表示编号在0xFFFF以下的字符,如果超出0XFFFF,使用\x{...}
形式,比如\x{1f48e}
。
5)斜杠\本身,斜杠\
是一个元字符,如果要匹配它自身,使用两个斜杠表示,即’\\
‘。
6)元字符本身,除了’\
‘,正则表达式中还有很多元字符,比如.
、*
、?
、+
等,要匹配这些元字符自身,需要在前面加转义字符’\
‘,比如’\.
‘。
2.字符组
字符组有多种,包括任意字符、多个指定字符之一、字符区间、排除型字符组、预定义的字符组等,下面具体介绍。
点号字符’.’是一个元字符,默认模式下,它匹配除了换行符以外的任意字符,比如正则表达式:
1 | a.f |
既匹配字符串”abf
“,也匹配”acf
“。可以指定另外一种匹配模式,一般称为单行匹配模式或者点号匹配模式,在此模式下,’.
‘匹配任意字符,包括换行符。可以有两种方式指定匹配模式:一种是在正则表达式中,以(?s)
开头,s表示single line
,即单行匹配模式
。比如:
1 | (?s)a.f |
另外一种是在程序中指定,在Java中,对应的模式常量是Pattern.DOTALL
,下节我们再介绍Java API。
在单个字符和任意字符之间,有一个字符组的概念,匹配组中的任意一个字符,用中括号[]
表示,比如:
1 | [abcd] |
匹配a、b、c、d中的任意一个字符。
1 | [0123456789] |
匹配任意一个数字字符。
为方便表示连续的多个字符,字符组中可以使用连字符’-‘,比如:
1 | [0-9] |
可以有多个连续空间,可以有其他普通字符,比如:
1 | [0-9a-zA-Z_] |
在字符组中,’-‘是一个元字符,如果要匹配它自身,可以使用转义,即’-‘,或者把它放在字符组的最前面,比如:
1 | [-0-9] |
字符组支持排除的概念,在[后紧跟一个字符^,比如:
1 | [^abcd] |
表示匹配除了a, b, c, d以外的任意一个字符。
1 | [^0-9] |
表示匹配一个非数字字符。
排除不是不能匹配,而是匹配一个指定字符组以外的字符,要表达不能匹配的含义,需要使用后文介绍的环视语法。^只有在字符组的开头才是元字符,如果不在开头,就是普通字符,匹配它自身,比如:
1 | [a^b] |
就是匹配字符a, ^
或b。
在字符组中,除了^
、-
、[ ]
、\
外,其他在字符组外的元字符不再具备特殊含义,变成了普通字符,比如字符’.
‘和’*
‘, [.*]
就是匹配’.
‘或者’*
‘本身。
有一些特殊的以\开头的字符,表示一些预定义的字符组,比如:
\d
:d表示digit,匹配一个数字字符,等同于[0-9]
。\w
:w表示word,匹配一个单词字符,等同于[a-zA-Z_0-9]
。\s
:s表示space,匹配一个空白字符,等同于[ \t\n\x0B\f\r]
。
它们都有对应的排除型字符组,用大写表示,即:
\D
:匹配一个非数字字符,即[^\d]
。\W
:匹配一个非单词字符,即[^\w]
。\S
:匹配一个非空白字符,即[^\s]
。
还有一类字符组,称为POSIX字符组,它们是POSIX标准定义的一些字符组,在Java中,这些字符组的形式是\p{...}
。POSIX字符组比较多,我们就不介绍了。
3.量词
量词指的是指定出现次数的元字符,有三个常见的元字符:+
、*
、?
:
1)+
:表示前面字符的一次或多次出现,比如正则表达式ab+c,既能匹配abc,也能匹配abbc,或abbbc。
2)*
:表示前面字符的零次或多次出现,比如正则表达式ab*c,既能匹配abc,也能匹配ac,或abbbc。
3)?
:表示前面字符可能出现,也可能不出现,比如正则表达式ab? c,既能匹配abc,也能匹配ac,但不能匹配abbc。
更为通用的表示出现次数的语法是{m,n}
,出现次数从m到n,包括m和n,如果n没有限制,可以省略,如果m和n一样,可以写为{m}
,比如:
ab{1,10}c
:b可以出现1次到10次。ab{3}c
:b必须出现三次,即只能匹配abbbc
。ab{1,}c
:与ab+c
一样。ab{0,}c
:与ab*c
一样。ab{0,1}c
:与ab?c
一样。
需要注意的是,语法必须是严格的{m,n}
形式,逗号左右不能有空格。
?
、*
、+
、{
是元字符,如果要匹配这些字符本身,需要使用’\
‘转义,比如:
1 | a\*b |
匹配字符串”a*b
“。这些量词出现在字符组中时,不是元字符,比如:
1 | [? *+{] |
就是匹配其中一个字符本身。
关于量词,它们的默认匹配是贪婪的,什么意思呢?看个例子,正则表达式是:
1 | <a>.*</a> |
如果要处理的字符串是:
1 | <a>first</a><a>second</a> |
目的是想得到两个匹配,一个匹配:
1 | <a>first</a> |
另一个匹配:
1 | <a>second</a> |
但默认情况下,得到的结果却只有一个匹配,匹配所有内容。
这是因为.*
可以匹配第一个<a>
和最后一个</a>
之间的所有字符,只要能匹配,.*
就尽量往后匹配,它是贪婪的。如果希望在碰到第一个匹配时就停止呢?应该使用懒惰量词,在量词的后面加一个符号’?
‘,针对上例,将表达式改为:
1 | <a>.*? </a> |
就能得到期望的结果。所有量词都有对应的懒惰形式,比如:x??
、x*?
、x+?
、x{m,n}?
等。
4.分组
表达式可以用括号()括起来,表示一个分组,比如a(bc)d, bc就是一个分组。分组可以嵌套,比如a(de(fg))。分组默认都有一个编号,按照括号的出现顺序,从1开始,从左到右依次递增,比如表达式:
1 | a(bc)((de)(fg)) |
字符串abcdefg匹配这个表达式,第1个分组为bc,第2个为defg,第3个为de,第4个为fg。分组0是一个特殊分组,内容是整个匹配的字符串,这里是abcdefg。
分组匹配的子字符串可以在后续访问,好像被捕获了一样,所以默认分组称为捕获分组。关于如何在Java中访问和使用捕获分组,我们下节再介绍。
可以对分组使用量词,表示分组的出现次数,比如a(bc)+d,表示bc出现一次或多次。
中括号[]表示匹配其中的一个字符,括号()和元字符’|’一起,可以表示匹配其中的一个子表达式,比如:
1 | (http|ftp|file) |
匹配http或ftp或file。
需要注意区分|和[], |用于[]中不再有特殊含义,比如:
1 | [a|b] |
它的含义不是匹配a或b,而是a或|或b。
在正则表达式中,可以使用斜杠\加分组编号引用之前匹配的分组,这称为回溯引用,比如:
1 | <(\w+)>(.*)</\1> |
\1
匹配之前的第一个分组(\w+
),这个表达式可以匹配类似如下字符串:
1 | <title>bc</title> |
这里,第一个分组是”title”。
使用数字引用分组,可能容易出现混乱,可以对分组进行命名,通过名字引用之前的分组,对分组命名的语法是(? <name>X
),引用分组的语法是\k<name>
,比如,上面的例子可以写为:
1 | <(?<tag>\w+)>(.*)</\k<tag>> |
默认分组都称为捕获分组,即分组匹配的内容被捕获了,可以在后续被引用。实现捕获分组有一定的成本,为了提高性能,如果分组后续不需要被引用,可以改为非捕获分组,语法是(?:...)
,比如:
1 | (?:abc|def) |
5.特殊边界匹配
在正则表达式中,除了可以指定字符需满足什么条件,还可以指定字符的边界需满足什么条件,或者说匹配特定的边界,常用的表示特殊边界的元字符有^
、$
、\A
、\Z
、\z
和\b
。
默认情况下,^
匹配整个字符串的开始,^abc
表示整个字符串必须以abc开始。
需要注意的是^
的含义,在字符组中它表示排除,但在字符组外,它匹配开始,比如表达式^[^abc]
,表示以一个不是a、b、c的字符开始。
默认情况下,$
匹配整个字符串的结束,不过,如果整个字符串以换行符结束,$匹配的是换行符之前的边界,比如表达式
abc\r\n
或abc\n
结束。
以上^
和$
的含义是默认模式下的,可以指定另外一种匹配模式:多行匹配模式,在此模式下,会以行为单位进行匹配,^
匹配的是行开始,$
匹配的是行结束,比如表达式是^abc$
,字符串是”abc\nabc\r\n
“,就会有两个匹配。
可以有两种方式指定匹配模式。一种是在正则表达式中,以(?m)
开头,m表示multi-line,即多行匹配模式,上面的正则表达式可以写为:
1 | (? m)^abc$ |
另外一种是在程序中指定,在Java中,对应的模式常量是Pattern.MULTILINE
,下节我们再介绍Java API。
需要说明的是,多行模式和之前介绍的单行模式容易混淆,其实,它们之间没有关系。单行模式影响的是字符’.
‘的匹配规则,使得’.
‘可以匹配换行符;多行模式影响的是^
和$
的匹配规则,使得它们可以匹配行的开始和结束,两个模式可以一起使用。
\A
与^
类似,但不管什么模式,它匹配的总是整个字符串的开始边界。
\Z
和\z
与$
类似,但不管什么模式,它们匹配的总是整个字符串的结束边界。\Z
与\z
的区别是:如果字符串以换行符结束,\Z
与$
一样,匹配的是换行符之前的边界,而\z
匹配的总是结束边界。在进行输入验证的时候,为了确保输入最后没有多余的换行符,可以使用\z
进行匹配。
\b
匹配的是单词边界,比如\bcat\b
,匹配的是完整的单词cat,它不能匹配category。**\b
匹配的不是一个具体的字符,而是一种边界,这种边界满足一个要求,即一边是单词字符,另一边不是单词字符**。在Java中,\b
识别的单词字符除了\w
,还包括中文字符。
边界匹配可能难以理解,我们解释下。边界匹配不同于字符匹配,可以认为,在一个字符串中,每个字符的两边都是边界,而上面介绍的这些特殊字符,匹配的都不是字符,而是特定的边界,看个例子,如图25-1所示。
上面的字符串是”a cat\n”,我们用粗线显示出了每个字符两边的边界,并且显示出了每个边界与哪些边界元字符匹配。
6.环视边界匹配
对于边界匹配,除了使用上面介绍的边界元字符,还有一种更为通用的方式,那就是环视。环视的字面意思就是左右看看,需要左右符合一些条件,本质上,它也是匹配边界,对边界有一些要求,这个要求是针对左边或右边的字符串的。根据要求不同,分为4种环视:
1)肯定顺序环视,语法是(?=...)
,要求右边的字符串匹配指定的表达式。比如表达式abc(?=def)
, (?=def)
在字符c右面,即匹配c右面的边界。对这个边界的要求是:它的右边有def,比如abcdef,如果没有,比如abcd,则不匹配。
2)否定顺序环视,语法是(?!...)
,要求右边的字符串不能匹配指定的表达式。比如表达式s(?!ing)
,匹配一般的s,但不匹配后面有ing的s。注意:避免与排除型字符组混淆,比如s[^ing]
, s[^ing]
匹配的是两个字符,第一个是s,第二个是i、n、g以外的任意一个字符。
3)肯定逆序环视,语法是(?<=...)
,要求左边的字符串匹配指定的表达式。比如表达式(?<=\s)abc
, (?<=\s)
在字符a左边,即匹配a左边的边界。对这个边界的要求是:它的左边必须是空白字符。
4)否定逆序环视,语法是(?<!...)
,要求左边的字符串不能匹配指定的表达式。比如表达式(?<!\w)cat
, (?<!\w)
在字符c左边,即匹配c左边的边界。对这个边界的要求是:它的左边不能是单词字符。
可以看出,环视也使用括号(),不过,它不是分组,不占用分组编号。
这些环视结构也被称为断言,断言的对象是边界,边界不占用字符,没有宽度,所以也被称为零宽度断言。
顺序环视也可以出现在左边,比如表达式:
1 | (?=.*[A-Z])\w+ |
这个表达式是什么意思呢?\w+匹配多个单词字符,(? =.*[A-Z])匹配单词字符的左边界,这是一个肯定顺序环视。对这个边界的要求是,它右边的字符串匹配表达式:
1 | .*[A-Z] |
也就是说,它右边至少要有一个大写字母。
逆序环视也可以出现在右边,比如表达式:
1 | [\w.]+(?<!\.) |
[\w.]+
匹配单词字符和字符’.’构成的字符串,比如”hello.ma
“。(?<!\.)
匹配字符串的右边界,这是一个逆序否定环视。对这个边界的要求是:它左边的字符不能是’.
‘,也就是说,如果字符串以’.
‘结尾,则匹配的字符串中不能包括这个’.
‘。比如,如果字符串是”hello.ma.
“,则匹配的子字符串是”hello.ma
“。
环视匹配的是一个边界,里面的表达式是对这个边界左边或右边字符串的要求,对同一个边界,可以指定多个要求,即写多个环视,比如表达式:
1 | (? =.*[A-Z])(? =.*[0-9])\w+ |
\w+
的左边界有两个要求,(?=.*[A-Z])
要求后面至少有一个大写字母,(?=.*[0-9])
要求后面至少有一位数字。
7.转义与匹配模式
我们知道,字符’'表示转义,转义有两种。
1)把普通字符转义,使其具备特殊含义,比如’\t
‘、’\n
‘、’\d
‘、’\w
‘、’\b
‘、’\A
‘等,也就是说,这个转义把普通字符变为了元字符。
2)把元字符转义,使其变为普通字符,比如’\.
‘、’\*
‘、’\?
‘、’\(
‘、’\\
‘等。
记住所有的元字符,并在需要的时候进行转义,这是比较困难的,有一个简单的办法,可以将所有元字符看作普通字符,就是在开始处加上\Q
,在结束处加上\E
,比如:
1 | \Q(.*+)\E |
\Q
和\E
之间的所有字符都会被视为普通字符。
正则表达式用字符串表示,在Java中,字符’\
‘也是字符串语法中的元字符,这使得正则表达式中的’\
‘,在Java字符串表示中,要用两个’\
‘,即’\\
‘,而要匹配字符’\
‘本身,在Java字符串表示中,要用4个’\
‘,即’\\\
`‘,关于这点,下节我们会进一步说明。
前面提到了两种匹配模式,还有一种常用的匹配模式,就是不区分大小写的模式,指定方式也有两种。一种是在正则表达式开头使用(?i), i为ignore,比如:
1 | (?i)the |
既可以匹配the,也可以匹配THE,还可以匹配The。匹配模式也可以在程序中指定,Java中对应的变量是Pattern.CASE_INSENSITIVE。需要说明的是,匹配模式间不是互斥的关系,它们可以一起使用,在正则表达式中,可以指定多个模式,比如(? smi)。
8.语法总结
下面,我们用表格的形式简要汇总下正则表达式的语法,如表25-1到表25-6所示。