摘要:文章同步于正则表达式是一种处理字符串匹配的语言。如果同时使用其它元字符,我们就能构造出功能更强大的正则表达式。
文章同步于 Github blog
正则表达式(Regular Expression)是一种处理字符串匹配的语言。
很可能你使用过 Windows/Dos 下用于文件查找的通配符(wildcard),也就是 * 和 ? 。如果你想查找某个目录下的所有的Word文档的话,你会搜索 *.doc。在这里,* 会被解释成任意的字符串。和通配符类似,正则表达式也是用来进行文本匹配的工具,只不过比起通配符,它能更精确地描述你的需求 —— 当然,代价就是更复杂——比如你可以编写一个正则表达式,用来查找所有以0开头,后面跟着2-3个数字,然后是一个连字号 “-”,最后是7或8位数字的字符串(像010-12345678或0376-7654321)。
JavaScript 同样也对正则表达式有很好的支持,RegExp 是 JavaScript 中的内置“类”,通过使用RegExp,用户可以自己定义模式来对字符串进行匹配。而 JavaScrip t中的 String 对象的 replace 方法也支持使用正则表达式对串进行匹配,一旦匹配,还可以通过调用预设的回调函数来进行替换。
入门学习正则表达式的最好方法是从例子开始,理解例子之后再自己对例子进行修改,实验。下面给出了不少简单的例子,并对它们作了详细的说明。
假设你在一篇英文小说里查找hi,你可以使用正则表达式hi。
这几乎是最简单的正则表达式了,它可以精确匹配这样的字符串:由两个字符组成,前一个字符是 h ,后一个是i。
通常,处理正则表达式的工具会提供一个忽略大小写的选项,如果选中了这个选项,它可以匹配 hi,HI,Hi,hI 这四种情况中的任意一种。
不幸的是,很多单词里包含hi这两个连续的字符,比如 him,history,high 等等。用hi来查找的话,这里边的hi也会被找出来。如果要精确地查找hi这个单词的话,我们应该使用 hi。
是正则表达式规定的一个特殊代码(好吧,某些人叫它元字符,metacharacter),代表着单词的开头或结尾,也就是单词的分界处。虽然通常英文的单词是由空格,标点符号或者换行来分隔的,但是b并不匹配这些单词分隔字符中的任何一个,它只匹配一个位置。
如果需要更精确的说法, 匹配这样的位置:它的前一个字符和后一个字符不全是(一个是,一个不是或不存在)w。
假如你要找的是hi后面不远处跟着一个 Lucy,你应该用 hi.*Lucy。
这里,.是另一个元字符,匹配除了换行符以外的任意字符。*同样是元字符,不过它代表的不是字符,也不是位置,而是数量——它指定*前边的内容可以连续重复使用任意次以使整个表达式得到匹配。
因此,.*连在一起就意味着任意数量的不包含换行的字符。现在 hi.*Lucy 的意思就很明显了:先是一个单词hi,然后是任意个任意字符(但不能是换行),最后是Lucy这个单词。
换行符就是 ,ASCII编码为10(十六进制0x0A)的字符。
如果同时使用其它元字符,我们就能构造出功能更强大的正则表达式。比如下面这个例子:
0dd-ffffdffffddd 匹配这样的字符串:以0开头,然后是两个数字,然后是一个连字号“-”,最后是8个数字(也就是中国的电话号码。当然,这个例子只能匹配区号为3位的情形)。
这里的d是个新的元字符,匹配一位数字(0,或1,或2,或……)。- 不是元字符,只匹配它本身——连字符(或者减号,或者中横线,或者随你怎么称呼它)。
为了避免那么多烦人的重复,我们也可以这样写这个表达式:0d{2}-d{8}。这里d后面的 {2}({8}) 的意思是前面 d 必须连续重复匹配2次(8次)。
规则 优先权顺序操作符 | 描述 |
---|---|
转义符 | |
(), (?:), (?=), [] | 圆括号和方括号 |
* , +, ?, {n}, {n,}, {n,m} | 限定符 |
^ , $ , anymetacharacter | 位置和顺序 |
元字符,是一些数学符号,在正则表达式中有特定的含义,而不仅仅表示其“字面”上的含义。比如星号(*),表示一个集合的零到多次重复,而问号(?)表示零次或一次。如果你需要使用元字符的字面意义,则需要转义。
常用的元字符代码 | 说明 |
---|---|
. | 匹配除换行符以外的任意字符 |
^ | 匹配字符串的开始 |
$ | 匹配字符串的结束 |
w | 匹配字母或数字或下划线或汉字 |
s | 匹配任意的空白符 |
d | 匹配数字 |
匹配单词的开始或结束 |
aw* 匹配以字母a开头的单词——先是某个单词开始处(b),然后是字母a,然后是任意数量的字母或数字(w*),最后是单词结束处(b)。
d+ 匹配1个或更多连续的数字。这里的 + 是和 * 类似的元字符,不同的是 *匹配重复任意次(可能是0次),而+ 则匹配重复1次或更多次。
w{6} 匹配刚好6个字符的单词
重复和忽略大小写的选项类似,有些正则表达式处理工具还有一个处理多行的选项。如果选中了这个选项,^和$的意义就变成了匹配行的开始处和结束处。
你已经看过了前面的 *,+,{2},{5,12} 这几个匹配重复的方式了。下面是正则表达式中所有的限定符(指定数量的代码,例如 *,{5,12} 等)
常用的限定符代码/语法 | 说明 |
---|---|
* | 重复零次或更多次 |
+ | 重复一次或更多次 |
? | 重复零次或一次 |
{n} | 重复n次 |
{n,} | 重复n次或更多次 |
{n,m} | 重复n到m次 |
Windowsd+ 匹配Windows后面跟1个或更多数字
^w+ 匹配一行的第一个单词(或整个字符串的第一个单词,具体匹配哪个意思得看选项设置)
转义字符特殊字符,主要是指注入空格,制表符,其他进制(十进制之外的编码方式)等,它们的特点是以转义字符()为前导。如果需要引用这些特殊字符的字面意义,同样需要转义。
字符 | 含义 |
---|---|
字符本身 | 匹配字符本身 |
匹配回车 | |
匹配换行 | |
制表符 | |
f | 换页 |
x# | 匹配十六进制数 |
cX | 匹配控制字符 |
要想查找数字,字母或数字,空白是很简单的,因为已经有了对应这些字符集合的元字符,但是如果你想匹配没有预定义元字符的字符集合(比如元音字母 a,e,i,o,u),应该怎么办?
很简单,你只需要在方括号里列出它们就行了,像 [aeiou] 就匹配任何一个英文元音字母,[.?!] 匹配标点符号(.或?或!)。
我们也可以轻松地指定一个字符范围,像 [0-9] 代表的含意与d就是完全一致的:一位数字;同理 [a-z0-9A-Z_] 也完全等同于 w(如果只考虑英文的话)。
下面是一个更复杂的表达式:(?0d{2}[) -]?d{8}。
这个表达式可以匹配几种格式的电话号码,像(010)88886666,或 022-22334455,或 02912345678等。我们对它进行一些分析吧:首先是一个转义字符 ( , 它能出现 0 次或 1 次 (?),然后是一个 0,后面跟着2个数字 (d{2}),然后是)或 - 或 空格 中的一个,它出现 1 次或不出现 (?),最后是 8 个数字 (d{8})。
使用工具可视化显示如下:
分枝条件“(”和“)” 也是元字符,后面的分组节里会提到,所以在这里需要使用 转义。
不幸的是,刚才那个表达式也能匹配 010)12345678 或 (022-87654321 这样的 “不正确” 的格式。要解决这个问题,我们需要用到分枝条件。正则表达式里的分枝条件指的是有几种规则,如果满足其中任意一种规则都应该当成匹配,具体方法是用 | 把不同的规则分隔开。 听不明白?没关系,看例子:
0d{2}-d{8}|0d{3}-d{7} 这个表达式能匹配两种以连字号分隔的电话号码:一种是三位区号,8位本地号(如010-12345678),一种是4位区号,7位本地号(0376-2233445)。
(0d{2})[- ]?d{8}|0d{2}[- ]?d{8} 这个表达式匹配3位区号的电话号码,其中区号可以用小括号括起来,也可以不用,区号与本地号间可以用连字号或空格间隔,也可以没有间隔。你可以试试用分枝条件把这个表达式扩展成也支持4位区号的。
d{5}-d{4}|d{5} 这个表达式用于匹配美国的邮政编码。美国邮编的规则是5位数字,或者用连字号间隔的9位数字。之所以要给出这个例子是因为它能说明一个问题:使用分枝条件时,要注意各个条件的顺序。 如果你把它改成 d{5}|d{5}-d{4} 的话,那么就只会匹配5位的邮编(以及9位邮编的前5位)。原因是匹配分枝条件时,将会从左到右地测试每个条件,如果满足了某个分枝的话,就不会去再管其它的条件了。
分组我们已经提到了怎么重复单个字符(直接在字符后面加上限定符就行了);但如果想要重复多个字符又该怎么办?你可以用小括号来指定子表达式(也叫做分组),然后你就可以指定这个子表达式的重复次数了, 你也可以对子表达式进行其它一些操作(后面会有介绍)。
(d{1,3}.){3}d{1,3} 是一个简单的IP地址匹配表达式。要理解这个表达式,请按下列顺序分析它:d{1,3} 匹配1到3位的数字,(d{1,3}.){3} 匹配三位数字加上一个英文句号(这个整体也就是这个分组)重复3次,最后再加上一个一到三位的数字(d{1,3})。
不幸的是,它也将匹配 256.300.888.999 这种不可能存在的IP地址。如果能使用算术比较的话,或许能简单地解决这个问题,但是正则表达式中并不提供关于数学的任何功能,所以只能使用冗长的分组,选择,字符类来描述一个正确的IP地址:((2[0-4]d|25[0-5]|[01]?dd?).){3}(2[0-4]d|25[0-5]|[01]?dd?)。
理解这个表达式的关键是理解 2[0-4]d|25[0-5]|[01]?dd?,这里我就不细说了,你自己应该能分析得出来它的意义。
反义IP地址中每个数字都不能大于255. 经常有人问我, 01.02.03.04 这样前面带有0的数字, 是不是正确的IP地址呢? 答案是: 是的, IP 地址里的数字可以包含有前导 0 (leading zeroes).
有时需要查找不属于某个能简单定义的字符类的字符。比如想查找除了数字以外,其它任意字符都行的情况,这时需要用到反义:
常用的反义代码代码/语法 | 说明 |
---|---|
W | 匹配任意不是字母,数字,下划线,汉字的字符 |
S | 匹配任意不是空白符的字符 |
D | 匹配任意非数字的字符 |
B | 匹配不是单词开头或结束的位置 |
1 | 匹配除了x以外的任意字符 |
2 | 匹配除了aeiou这几个字母以外的任意字符 |
S+ 匹配不包含空白符的字符串。
]+> 匹配用尖括号括起来的以a开头的字符串。
后向引用(Javascript 部分支持)使用小括号指定一个子表达式后,匹配这个子表达式的文本(也就是此分组捕获的内容)可以在表达式或其它程序中作进一步的处理。默认情况下,每个分组会自动拥有一个组号,规则是:从左向右,以分组的左括号为标志,第一个出现的分组的组号为1,第二个为2,以此类推。
后向引用 用于重复搜索前面某个分组匹配的文本。例如,1 代表分组1匹配的文本。难以理解?请看示例:
(w+)s+1 可以用来匹配重复的单词,像 go go, 或者 kitty kitty。这个表达式首先是一个单词,也就是单词开始处和结束处之间的多于一个的字母或数字 ((w+)) ,这个单词会被捕获到编号为1的分组中,然后是1个或几个空白符 (s+),最后是分组1中捕获的内容(也就是前面匹配的那个单词)(1)。
你也可以自己指定子表达式的组名。要指定一个子表达式的组名,请使用这样的语法:(?
使用小括号的时候,还有很多特定用途的语法。下面列出了最常用的一些:
分类 | 代码/语法 | 说明 |
---|---|---|
捕获 | (exp) | 匹配exp,并捕获文本到自动命名的组里 |
捕获 | (? |
匹配exp,并捕获文本到名称为name的组里,也可以写成(?"name"exp) |
捕获 | (?:exp) | 匹配exp,不捕获匹配的文本,也不给此分组分配组号 |
零宽断言 | (?=exp) | 匹配exp前面的位置 |
零宽断言 | (?<=exp) | 匹配exp后面的位置 |
零宽断言 | (?!exp) | 匹配后面跟的不是exp的位置 |
零宽断言 | (? | 匹配前面不是exp的位置 |
注释 | (?#comment) | 这种类型的分组不对正则表达式的处理产生任何影响,用于提供注释让人阅读 |
分组0对应整个正则表达式
实际上组号分配过程是要从左向右扫描两遍的:
第一遍只给未命名组分配,
第二遍只给命名组分配--因此所有命名组的组号- 都大于未命名的组号
你可以使用 (?:exp) 这样的语法来剥夺一个分组对组号分配的参与权.
零宽断言(Javascript部分支持)接下来的四个用于查找在某些内容(但并不包括这些内容)之前或之后的东西,也就是说它们像 ,^,$那样用于指定一个位置,这个位置应该满足一定的条件(即断言),因此它们也被称为零宽断言。最好还是拿例子来说明吧:
断言用来声明一个应该为真的事实。正则表达式中只有当断言为真时才会继续进行匹配。
(?=exp) 也叫零宽度正预测先行断言,它断言自身出现的位置的后面能匹配表达式 exp。比如 w+(?=ing),匹配以ing结尾的单词的前面部分(除了ing以外的部分),如查找I"m singing while you"re dancing.时,它会匹配sing和danc。
(?<=exp) 也叫零宽度正回顾后发断言,它断言自身出现的位置的前面能匹配表达式 exp。比如 (?<=re)w+会匹配以re开头的单词的后半部分(除了re以外的部分),例如在查找 reading a book时,它匹配 ading。
假如你想要给一个很长的数字中每三位间加一个逗号(当然是从右边加起了),你可以这样查找需要在前面和里面添加逗号的部分:((?<=d)d{3})+ ,用它对 1234567890 进行查找时结果是 234567890。
负向零宽断言 (Javascript部分支持)前面我们提到过怎么查找不是某个字符或不在某个字符类里的字符的方法(反义)。但是如果我们只是想要确保某个字符没有出现,但并不想去匹配它时怎么办?例如,如果我们想查找这样的单词--它里面出现了字母q,但是q后面跟的不是字母u,我们可以尝试这样:
w*q[^u]w* 匹配包含后面不是字母u的字母q的单词。但是如果多做测试(或者你思维足够敏锐,直接就观察出来了),你会发现,如果q出现在单词的结尾的话,像 Iraq,Benq,这个表达式就会出错。这是因为 [^u] 总要匹配一个字符,所以如果q是单词的最后一个字符的话,后面的3将会匹配q后面的单词分隔符(可能是空格,或者是句号或其它的什么),后面的 w* 将会匹配下一个单词,于是 w*q[^u]w* 就能匹配整个 Iraq fighting。
负向零宽断言能解决这样的问题,因为它只匹配一个位置,并不消费任何字符。 现在,我们可以这样来解决这个问题:w*q(?!u)w*。
零宽度负预测先行断言(?!exp),断言此位置的后面不能匹配表达式exp。例如:d{3}(?!d) 匹配三位数字,而且这三位数字的后面不能是数字;((?!abc)w)+ 匹配不包含连续字符串abc的单词。
同理,我们可以用 (?,零宽度负回顾后发断言 来断言此位置的前面不能匹配表达式exp:(? 匹配前面不是小写字母的七位数字。
一个更复杂的例子:(?<=<(w+)>).*(?=1>) 匹配不包含属性的简单HTML标签内里的内容。
(?<=<(w+)>) 指定了这样的前缀:被尖括号括起来的单词(比如可能是),然后是 .* (任意的字符串),最后是一个后缀 (?=1>)。注意后缀里的 /,它用到了前面提过的字符转义;1则是一个反向引用,引用的正是捕获的第一组,前面的 (w+) 匹配的内容,这样如果前缀实际上是 的话,后缀就是 了。整个表达式匹配的是 和 之间的内容(再次提醒,不包括前缀和后缀本身)。
注释 (Javascript不支持)小括号的另一种用途是通过语法 (?#comment) 来包含注释。例如:2[0-4]d(?#200-249)|25[0-5](?#250-255)|[01]?dd?(?#0-199)。
要包含注释的话,最好是启用“忽略模式里的空白符”选项,这样在编写表达式时能任意的添加空格,Tab,换行,而实际使用时这些都将被忽略。启用这个选项后,在#后面到这一行结束的所有文本都将被当成注释忽略掉。例如,我们可以前面的一个表达式写成这样:
(?<= # 断言要匹配的文本的前缀 <(w+)> # 查找尖括号括起来的字母或数字(即HTML/XML标签) ) # 前缀结束 .* # 匹配任意文本 (?= # 断言要匹配的文本的后缀 1> # 查找尖括号括起来的内容:前面是一个"/",后面是先前捕获的标签 ) # 后缀结束贪婪与懒惰
当正则表达式中包含能接受重复的限定符时,通常的行为是(在使整个表达式能得到匹配的前提下)匹配尽可能多的字符。以这个表达式为例:a.*b ,它将会匹配最长的以a开始,以b结束的字符串。如果用它来搜索 aabab 的话,它会匹配整个字符串 aabab。这被称为 贪婪匹配。
有时,我们更需要 懒惰匹配 ,也就是匹配尽可能少的字符。前面给出的限定符都可以被转化为懒惰匹配模式,只要在它后面加上一个问号 ? 。这样 .*? 就意味着匹配任意数量的重复,但是在能使整个匹配成功的前提下使用最少的重复。现在看看懒惰版的例子吧:
a.*?b 匹配最短的,以a开始,以b结束的字符串。如果把它应用于aabab的话,它会匹配aab(第一到第三个字符)和ab(第四到第五个字符)。
代码/语法 | 说明 |
---|---|
*? | 重复任意次, 但尽可能少重复 |
+? | 重复1次或更多次,但尽可能少重复 |
?? | 重复0次或1次,但尽可能少重复 |
{n,m}? | 重复n到m次,但尽可能少重复 |
{n,}? | 重复n次以上,但尽可能少重复 |
修饰符 | 描述 |
---|---|
i | 忽略大小写开关 |
g | 全局搜索开关 |
m | 多行搜索开关(重定义^与$的意义) |
有时我们需要匹配像( 100 * ( 50 + 15 ) )这样的可嵌套的层次性结构,这时简单地使用 (.+) 则只会匹配到最左边的左括号和最右边的右括号之间的内容(这里我们讨论的是贪婪模式,懒惰模式也有下面的问题)。假如原来的字符串里的左括号和右括号出现的次数不相等,比如( 5 / ( 3 + 2 ) ) ),那我们的匹配结果里两者的个数也不会相等。有没有办法在这样的字符串里匹配到最长的,配对的括号之间的内容呢?
为了避免(和(把你的大脑彻底搞糊涂,我们还是用尖括号代替圆括号吧。现在我们的问题变成了如何把 xx
这里需要用到以下的语法构造:
(?"group") 把捕获的内容命名为group,并压入堆栈(Stack)
(?"-group") 从堆栈上弹出最后压入堆栈的名为group的捕获内容,如果堆栈本来为空,则本分组的匹配失败
(?(group)yes|no) 如果堆栈上存在以名为group的捕获内容的话,继续匹配yes部分的表达式,否则继续匹配no部分
(?!) 零宽负向先行断言,由于没有后缀表达式,试图匹配总是失败
我们需要做的是每碰到了左括号,就在压入一个"Open",每碰到一个右括号,就弹出一个,到了最后就看看堆栈是否为空--如果不为空那就证明左括号比右括号多,那匹配就应该失败。正则表达式引擎会进行回溯(放弃最前面或最后面的一些字符),尽量使整个表达式得到匹配。
< #最外层的左括号 [^<>]* #最外层的左括号后面的不是括号的内容 ( ( (?"Open"<) #碰到了左括号,在黑板上写一个"Open" [^<>]* #匹配左括号后面的不是括号的内容 )+ ( (?"-Open">) #碰到了右括号,擦掉一个"Open" [^<>]* #匹配右括号后面不是括号的内容 )+ )* (?(Open)(?!)) #在遇到最外层的右括号前面,判断黑板上还有没有没擦掉的"Open";如果还有,则匹配失败 > #最外层的右括号
平衡组的一个最常见的应用就是匹配HTML,下面这个例子可以匹配嵌套的
网络上有很多可视化的正则表达式学习或调试的工具,有些还能自动生成测试案例等。如下面一个邮箱校验的正则表达式:
//Email正则 /^([A-Za-z0-9_-.])+@([A-Za-z0-9_-.])+.([A-Za-z]{2,4})$/.test("wowohoo@qq.com"); //输出 true // 1.邮箱以a-z、A-Z、0-9开头,最小长度为1. // 2.如果左侧部分包含-、_、.则这些特殊符号的前面必须包一位数字或字母。 // 3.@符号是必填项 // 4.右则部分可分为两部分,第一部分为邮件提供商域名地址,第二部分为域名后缀,现已知的最短为2位。 // 最长的为6为。 // 5.邮件提供商域可以包含特殊字符-、_、. /^[a-z0-9]+([._-]*[a-z0-9])*@([a-z0-9]+[-a-z0-9]*[a-z0-9]+.){1,63}[a-z0-9]+$/.test("wowohoo@qq.com");
可视化
可视化的正则调试器
Regexper: 可视化正则表达式
正则解释器
regexr
regular expressions 在线验证学习
参考精通正则表达式(第3版)
正则表达式30分钟入门
编译原理
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。
转载请注明本文地址:https://www.ucloud.cn/yun/87401.html
摘要:本文章属于爬虫入门到精通系统教程第五讲在爬虫入门到精通第四讲中,我们了解了如何下载网页,这一节就是如何从下载的网页中获取我们想要的内容万能匹配文章的标题文字我们要获取的如上所示,假如我们要获取文章的标题这几个文字,那么我们应该怎么做呢我 本文章属于爬虫入门到精通系统教程第五讲 在爬虫入门到精通第四讲中,我们了解了如何下载网页,这一节就是如何从下载的网页中获取我们想要的内容 万能匹配 h...
摘要:正则起源最近看完了精通正则表达式,收获颇丰,略过了一些晦涩难懂的理论部分,主要看了实战和教程部分。然后下面说一下以上两个基础教程里没说到的知识点。最后以上是我在精通正则表达式一书中得到的一些收获,希望能分享给大家,如有错误欢迎指正。 正则起源 最近看完了 《精通正则表达式》,收获颇丰,略过了一些晦涩难懂的理论部分,主要看了实战和教程部分。 下面引用一下百度百科里的内容。 正则表达式的鼻...
摘要:今天来给大家分享一份关于比较详细的正则表达式宝典,学会之后你将对正则表达式达到精通的状态。正则表达式是用在方法当中,大多数的字符串检索都可以通过来完成。导入模块在使用正则表达式之前,需要导入模块。 ...
摘要:行的起始与结束以开头的以结束的匹配若干字符之一匹配含有的单词排除型字符组匹配除了到的任何数字用点号匹配任意字符加号表示之前紧邻的的元素出现一次或者多次星号表示之前紧邻的的元素出现任意多次,或者不出现问号表示可选项或任何空白字符例如 行的起始与结束 var reg = /^cat/; // 以cat 开头的 var reg = /cat$/; // 以cat 结束的 匹配若干...
摘要:以上是如果你想精通网络爬虫的学习研究路线,按照这些步骤学习下去,可以让你的爬虫技术得到非常大的提升。 作者:韦玮 转载请注明出处 随着大数据时代的到来,人们对数据资源的需求越来越多,而爬虫是一种很好的自动采集数据的手段。 那么,如何才能精通Python网络爬虫呢?学习Python网络爬虫的路线应该如何进行呢?在此为大家具体进行介绍。 1、选择一款合适的编程语言 事实上,Python、P...
阅读 599·2021-10-08 10:20
阅读 1489·2021-09-23 11:22
阅读 3214·2019-08-30 15:55
阅读 1581·2019-08-28 18:25
阅读 1857·2019-08-28 18:14
阅读 1228·2019-08-26 11:37
阅读 2893·2019-08-26 10:18
阅读 2419·2019-08-23 18:39