08|正则表达式:如何提高搜索内容的精确度?
下载APP
关闭
渠道合作
推荐作者
08|正则表达式:如何提高搜索内容的精确度?
2021-02-27 尹会生 来自北京
《Python自动化办公实战课》
课程介绍
讲述:尹会生
时长16:31大小15.09M
你好,我是尹会生。
开始上课之前,我想先带你看两种常见的工作需求:
领导让你搜索出一个文档里所有的手机号码, 而你只知道手机号的模式是 11 位数字,那该怎样搜索呢?
你需要在一个文档中搜索一串带区号的电话号码,比如 010-12345678,099-1234567 ,不过在这个文档中,有很多组电话号码,它们的区号和电话号码长度都不同,你该怎么一次性把它们全部搜索出来呢?
其实,这两种场景具有一个共同点:就是你要一次搜索出所有的结果,且不能使用具体的数字,这该怎么办呢?答案是使用某种模式进行搜索。
就像搜索手机号,我可以使用 11 位数字这种模式。搜索电话号码我就可以用 3-4 个数字或 7-8 个数字加上“-”的模式。这就是利用模式匹配的方法把手机和电话号码从文档中找出来,提高文本搜索的效率。
对于模式匹配,使用 Python 的正则表达式是最便捷、也是最有效率的。这节课,我就来手把手教你用正则表达式来提高搜索效率。
使用正则表达式进行搜索的整个过程
首先,我先带你来看下使用正则表达式进行搜索的整个过程,利用正则表达式可以按照模式来匹配搜索结果,而且比自己编写函数搜索功能更加强大, 而且实现起来也更加简洁。
要实现搜索,我们就要用到 Python 的正则表达式库(叫做 re 库)中的 search() 函数,这是利用正则表达式实现搜索的核心函数。如果能够搜索到匹配模式的结果,就返回匹配字符串出现的文件的位置,以及匹配的字符串内容。接下来我们重点看一下它的参数。
re.search() 函数有三个参数,它的前两个参数我们在工作中较为常用。
参数 pattern:代表要匹配的模式。
参数 string:是要匹配的字符串。如果模式能够匹配成功,则会返回一个 re 的对象,re 对象里存储的是匹配位置和匹配内容;如果匹配失败,就会返回空,在 Python 中用变量“None”表示空。
参数 flags:表示 search() 函数在匹配之前可以进行各种特殊处理,比如使用 search() 函数进行搜索之前,可以通过 flag 参数忽略要匹配字符串的大小写功能。
那具体怎么使用呢?我以搜索手机号码为例来给你解释下。我可以使用 re.search() 按如下的代码搜索一串手机号码:
代码的第一行,search() 函数是一个基于正则表达式进行搜索的函数,它的第一个参数是正则表达式,第二个参数是要匹配的文字,目前它只有一个手机号码。
第二行代码是 search() 函数执行的结果。因为匹配成功之后会返回比较丰富的信息,所以我们需要根据搜索结果来不断优化正则表达式,达到精确匹配的目的,但是搜索结果还很复杂,所以我要带你分步骤地去分析匹配的结果都包含了哪些主要内容。
第一步:观察匹配的结果。
如果模式匹配成功,search() 函数会返回一个 re 对象。如果匹配不成功的话,它的返回结果则是 None。我们可以利用不同的返回结果,使用 Python 的 if 判断条件来控制程序的后续运行逻辑。
第二步:观察字符串的子串是在哪些位置被匹配成功的。
代码中的 span=(0, 11) 表示第 1 个字符到第 11 个字符匹配成功。这里需要注意的是 Python 字符串的下标是以 0 开头的。通过下标,你可以确认匹配的内容是否是你编写的模式,如果匹配的位置或者内容不正确,可以通过下标来帮你定位匹配错误的位置,以便优化匹配模式。
最后一步,观察匹配成功的子串是否是我们想要查找的字符串内容。
如果是的话,那么此次查找结束。如果不是,我们就需要根据匹配的位置和结果,使用 search() 函数重新编写正则表达式。
这就是使用正则表达式进行搜索的整个工作过程。那接下来我们就来学习一下正则表达式的两种匹配方式。
两种匹配方式
编写正则表达式之前,一定要根据字符出现的不同模式来选择不同的匹配方式。匹配方式分为精确匹配和模糊匹配两种。
精确匹配需要在匹配前,就知道将要匹配的字符是什么,且出现了多少次。这类匹配使用的是一组元字符。模糊匹配是在匹配前不清楚出现的字符具体内容或不清楚字符的重复次数,这种匹配需要使用另一组元字符。我们先来看看精确匹配方式。
精确匹配
在手机号码搜索的场景中,我使用了正则表达式 “[0-9]{11}”,你可以看到,我除了用数字外,还使用了很多特殊字符。这些特殊字符有一个专用的名字,叫做元字符,正则表达式就是利用元字符进行模式匹配工作的。
在正则表达式“[0-9]{11}”中包含了两组元字符,“[]”和“{}” 。
“[]”的作用是进行内容模式匹配;
“{}”的作用是指定匹配长度。
我们先从[0-9]来认识元字符吧。
在正则表示式“[0-9]” 中, “[]”表示同一个位置可能出现的各种字符。例如:我需要从文档中匹配到一个数字,可以使用[1234567890]的形式,也可以使用[0987654321]的形式。而在[]中,字符排列的顺序并不会影响它的功能,出现重复字符也不会影响它的功能。
不过为了代码更整洁,我不建议你在[]中使用重复的字符。
使用[]对一个数字进行匹配的时候,如果从 0 写到 9,一一列出比较麻烦,所以在[]中还支持一个“-”符号,叫做连字符。把连字符与数字写在一起,表示数字的范围。当然,你肯定会想到还有英文字母的场景,比如从 A 到 Z 或者从 a 到 z,表示英文字母的范围。具体写法如下:
除了可以自己手写匹配字母和数字外,还有另外一种写法,就是把我们经常需要匹配的字符进行定义。我为你提供一张 POSIX 字符组合和 ASCII 字符组合的常用对照表,帮你来记住它们。
在你掌握了元字符“[]”的用法之后,我们接着来看怎么通过“{}”来限定“[]”的匹配长度。
在正则表达式 “[0-9]{11}”中, 我使用了{11}来限定它前边的字符出现 11 次。{}还可以使用 **{m,n}的形式,表示限定的次数从 m 到 n 次 **。这是在匹配不确定字数的情况下,经常用到的写法,例如进行电话号码的区号匹配,可以使用“[0-9]{3,4}”的形式匹配 3 个或 4 个数字。
使用“[]、{}” 两种元字符,属于精确的模式匹配。如果你在编写正则表达式之前就知道,即将匹配的字符是数字还是英语,以及它们出现的次数,那就使用这两个元字符对将要进行搜索字符进行匹配。
模糊匹配
不过还有一种情况就是,你只知道某个元素会重复出现多次,但是在匹配前不知道具体会出现多少次,或者只知道要匹配的是五个字符,但是不知道这五个字符到底是数字、汉字还是英文,这种匹配的行为就叫做模糊匹配。
例如下面三个元字符“+”、“*”、“?”可以实现出现次数的模糊匹配功能。
“+”表示前边的元素出现的是1 到无穷多次。
“*”表示前面的元素出现的是0 次到无穷多次。
“?”表示前面的元素出现的是0 次或一次。
我以正则表达式“ab+c”为例,它表示在这个模式中 b 至少出现了一次,最多出现无穷多次。也就是说,我们能够通过 search() 函数搜索到 abc、abbc、abbbc、abbbbc 等模式。
如果匹配的模式再复杂一些,假设说在匹配之前我们只知道第一个字母是 a,最后一个字母是 b,中间是五个任意的字母。在这种情况下,就需要使用元字符“.”符号, 它在正则表达式中能匹配任意的单个字符。
为了让你更好理解元字符“.”, 我们就来看一个搜索任意 5 个字符的例子,代码如下:
上面代码匹配出的结果是"aaa13"。
这里需要提醒你注意,如果你想匹配的字符串只包含 5 个字符,那就需要增加匹配的限定条件的元字符“^”和“$”。“^”表示从第 1 个字符开始匹配。“$”表示从结尾开始匹配。所以你需要将正则表达式"....."改为"^.....$"形式,才能实现只匹配 5 个字符的模式。
通过上面的“[] {} . ? * +”这六种元字符组合,你就能够使用 search() 函数通过正则表达式搜索到大部分的模式了。
提取和替换:如何处理搜索到的结果
当你搜索到你想要的文字之后,往往还需要进行后续的内容提取和替换处理,这些后续处理如果手动完成也属于低效的工作。因此,接下来我来教你怎样将 search() 函数搜索到的内容进行提取,以及如何使用 sub() 函数实现将正则表达式匹配到的内容进行替换。我们先来看怎么进行内容的提取。
以电话号码为例,如果需要将搜索的结果提取出来,可以使用 group() 函数,进行 search() 函数搜索之后的内容提取操作。
我们先来看一下提取搜索结果的例子:
通过 group(0) 函数的参数“0”,如果搜索过程中能够匹配成功,search() 函数就会把匹配到的第一个字符串作为执行结果,返回给用户继续进行自动化处理。
再进一步,如果我要替换匹配到的字符串,那就需要把 search() 函数改为 sub() 函数。sub() 函数包含三个参数,依次是:要匹配的正则表达式、匹配后被替换的字符串、匹配的原始文档。
那我就以替换字符串为例,来教你怎么把文档中的 yes 字符串替换为 no 字符串。代码如下:
在这段代码中,为了将“Y、yes、Yes”,三个字符串都替换为“No”。同时,为了不用多次执行 sub() 替换函数,我使用了“()”分组功能和“|”选择功能。那么通过 (Y|y) 这一写法,就能实现第一个字符匹配“Y”和“y”;利用“()”分组功能,使用“(es)*”正则表达式实现了第二、三个字符是“es”或是没有字符的功能。
总结来说,通过 group() 函数和 re.sub() 函数,我们可以在搜索之后自动化实现内容的提取和替换操作。
小结
在最后我来为你总结一下搜索中的常见问题,以及对应的解决方案。
如果遇到了大量的需要按照某种模式才能得到搜索结果的场景,你可以在第一时间采用正则表达式的方法进行内容的匹配。如果字符长度固定,可以使用精确搜索的元字符“[]”和“{}” 。反之,在字符长度不固定的情况下,那就使用模糊搜索的元字符“+”、“*”、“?”“.”“^”和“$”。
正则表达式的元字符组合非常灵活,为了方便你记忆,我把它们分为三类:
匹配单个字符,要使用“[ ]”和“.”元字符。
控制元字符出现次数,要使用“?”、“+”和“*”元字符。
控制元字符的顺序和位置,要使用“^”、“$ ”、“ | ”和“ ()”元字符。
在掌握正则表达式的正确编写基础上,你就可以通过 re 库的函数实现按模式搜索、内容提取和内容替换了。正则表达式不但在 Python 中能够使用,它还能在搜索引擎以及大部分的编程语言中使用,被广泛应用与字符串搜索和替换工作中。
思考题
最后我给你留一道思考题,你将如何使用 re 库的 search() 函数,实现身份证的匹配和提取功能呢?
分享给需要的人,Ta购买本课程,你将得18元
生成海报并分享
赞 7
提建议
© 版权归极客邦科技所有,未经许可不得传播售卖。 页面已增加防盗追踪,如有侵权极客邦将依法追究其法律责任。
上一篇
07|快速读写文件:如何实现跨文件的字数统计?
下一篇
09|扩展搜索:如何快速找到想要的文件?
精选留言(4)
- 谢韬 Fragos2022-03-15根据尹老师的课程我总结了16个常用的正则表达式的元字符及组合的用法列子,供大家参考。 # 元字符* 表示从0到多个 p1=re.compile('ca*t') print(p1.match('ct')) print(p1.match('cat')) print(p1.match('caaat')) # 元字符+ 表示从1到多个 p2=re.compile('ca+t') print(p2.match('ct')) print(p2.match('cat')) print(p2.match('caaat')) # 元字符点. 用于匹配任意单个字符 p3= re.compile('...') print(p3.match('abc')) # 元字符^表示以什么字符开头 p4 = re.compile('^~') print(p4.match('~abcd')) # 元字符$ 表示以什么结尾,从后往前匹配 phone = '123-456-789 #这是电话号码' p5 = re.sub('#.*$','',phone) print(p5) # 元字符?表示前面到字符出现0次或1次 p6 = re.compile('ca?t') print(p6.match('ct')) print (p6.match('cat')) print (p6.match('caat')) # 元字符{} 大括号里面的数字表示前面字符出现多少次 p7 = re.compile('ca{3}t') print(p7.match('caaat')) #{m,n} 打括号表示前面字符出现m 到 n次(包括m和n)之间的次数 p8 = re.compile('ca{2,5}t') print(p8.match('caaaaat')) # 元字符[] 中括号表示括号里任意字符匹配成功就算匹配成功。 p9 = re.compile('c[a-d]t') print(p9.match('cat')) print(p9.match('cbt')) print(p9.match('cct')) print(p9.match('cdt')) # | 竖线表示的是字符选择左边还是右边。通常和括号用在一起 p10 = re.sub("(Y|y)(es)*","No","aayesbbcc") print(p10) # \d 斜杠d表示匹配的内容为一串数字 相当于[0-9]出现了多次([0-9]+) p11 = re.compile(r'\d+-\d+-\d+') print(p11.match('2022-3-15')) # \D斜杠D匹配不包含数字的字符 phone = '123-456-789 #这是电话号码' p12 = re.sub(r'\D','',phone) print(p12) # \s 匹配的是字符串 #元字符()小括号的作用是进行分组。作用强大。 p14 = re.compile(r'(\d+)-(\d+)-(\d+)') print(p14.match('2022-3-15').group(1)) print(p14.match('2022-3-15').groups()) year, month, day= p14.match('2022-3-15').groups() print(year) # 元字符^$ 表示这样一行为空行。 # 元字符.*? 表示不使用贪婪模式,只匹配第一个匹配上的内容。编写网页匹配很常用。 # 字符r(表示字符串是raw string)可以让转义符失效,原样输出 print (r'\n x \n')展开3
- Bill2021-10-19[0-9]{18}1
- GoodLuck2023-01-14 来自江苏re.sub("(Y|y)(es)*", "No", "aayesbb") 'aaNobb' # 执行结果 中的那个*是不是应该改成?
作者回复: 改成 ? 更贴切,我使用* 匹配了es多次,只使用了第一次
- 坚果2022-02-28p = /^[1-9]\d{5}(18|19|20)\d{2}((0[1-9])|(1[0-2]))(([0-2][1-9])|10|20|30|31)\d{3}[0-9Xx]$/