资讯专栏INFORMATION COLUMN

Linux生产环境上,最常用的一套“Sed“技巧

Big_fat_cat / 510人阅读

摘要:替换模式以上是命令的常用匹配模式,但它还有一个强大的替换模式,意思就是查找替换其中的某些值,并输出结果。看两个命令的语法好玩由于正则的关系,很多字符需要转义。注意前半部分的范围是不能使用这种方式的。

sed命令应用广泛,使用简单,是快速文本处理的利器。它其实没多少技巧,背诵、使用是最合适的学习渠道,属于硬技能。但它又很复杂,因为高级功能太多。本篇不去关注sed的高级功能,仅对常用的一些操作,进行说明。

随着使用,你会发现它和vim的一些理念是想通的,正则表达式的语法也基本上一样,并没有多少学习成本。从个人视野和工作效率上来看,sed命令都是程序员必须掌握的一个重要工具。

那些说可以现场google用法的,大多习惯将文本拷贝到excel里,慢慢磨洋工,遇到大批量文件更是手忙脚乱。不是一家人不进一家门,本文不是为你写的。

一个简单的入门

如图,一个简单的sed命令包含三个主要部分:参数范围操作。要操作的文件,可以直接挂在命令行的最后。除了命令行,sed也可以通过-f参数指定一个sed脚本,这个属于高级用法,不做过多描述。

有些示例命令我会重复多次,聪明如你一定能发现其中规律,有时连解释都用不着。

参数

-n 这个参数是--quiet或者--silent的意思。表明忽略执行过程的输出,只输出我们的结果即可。

我们常用的还有另外一个参数 :-i

使用此参数后,所有改动将在原文件上执行。你的输出将覆盖原文件。非常危险,一定要注意。

范围

1,4 表示找到文件中1,2,3,4行的内容。 这个范围的指定很有灵性,请看以下示例(请自行替换图中的范围部分)。

5 选择第5行。

2,5 选择2到5行,共4行。

1~2 选择奇数行。

2~2 选择偶数行。

2,+32,5的效果是一样的,共4行。

2,$ 从第二行到文件结尾。

范围的选择还可以使用正则匹配。请看下面示例。

/sys/,+3 选择出现sys字样的行,以及后面的三行。

/^sys/,/mem/ 选择以sys开头的行,和出现mem字样行之间的数据。

为了直观,下面的命令一一对应上面的介绍,范围和操作之间是可以有空格的。

sed -n "5p" file
sed -n "2,5 p" file
sed -n "1~2 p" file
sed -n "2~2 p" file
sed -n "2,+3p" file
sed -n "2,$ p" file

sed -n "/sys/,+3 p" file
sed -n "/^sys/,/mem/p" file
操作

最常用的操作就是p,意思就是打印。比如,以下两个命令就是等同的:

cat file 
sed -n "p" file

除了打印,还有以下操作,我们来说常用的。

p 对匹配内容进行打印。

d 对匹配内容进行删除。这个时候就要去掉-n参数了,想想为什么。

w 将匹配内容写入到其他地方。

a,i,c等操作虽基本但使用少,不做介绍。我们依然拿一些命令来说明。

sed -n "2,5 p" file
sed    "2,5 d" file
sed -n "2,5 w output.txt" file
替换模式

以上是sed命令的常用匹配模式,但它还有一个强大的替换模式,意思就是查找替换其中的某些值,并输出结果。使用替换模式很少使用-n参数。

替换模式的参数有点多,但第一部分和第五部分都是可以省略的。替换后会将整个文本输出出来。

前半部分用来匹配一些范围,而后半部分执行替换的动作。

范围

这个范围和上面的范围语法类似。看下面的例子。

/sys/,+3 选择出现sys字样的行,以及后面的三行。

/^sys/,/mem/ 选择以sys开头的行,和出现mem字样行之间的数据。

具体命令为:

sed "/sys/,+3 s/a/b/g" file
sed "/^sys/,/mem/s/a/b/g" file 
命令

这里的命令是指s。也就是substitute的意思。

查找匹配

查找部分会找到要被替换的字符串。这部分可以接受纯粹的字符串,也可以接受正则表达式。看下面的例子。

a 查找范围行中的字符串a

[a,b,c] 从范围行里查找字符串a或者b或者c。

命令类似:

sed "s/a/b/g" file
sed "s/[a,b,c]/<&>/g" file
#这个命令我们下面解释
替换

是时候把找出的字符串给替换掉了。本部分的内容将替换查找匹配部分找到的内容。

可惜的是,这部分不能使用正则。常用的就是精确替换。比如把a替换成b。

但也有高级功能。和java或者python的正则api类似,sed的替换同样有Matched Pattern的含义,同样可以得到Group,不深究。常用的替位符,就是&

**&**号,再重复一遍。当它用在替换字符串中的时候,代表的是原始的查找匹配数据。

[&] 表明将查找到的数据使用[]包围起来。

"&" 表明将查找的数据使用""包围起来。

下面这条命令,将会把文件中的每一行,使用引号包围起来。

sed "s/.*/"&"/" file
flag 参数

这些参数可以单个使用,也可以使用多个,仅介绍最常用的。

g 默认只匹配行中第一次出现的内容,加上g,就可以全文替换了。常用。

p 当使用了-n参数,p将仅输出匹配行内容。

w 和上面的w模式类似,但是它仅仅输出有变换的行。

i 这个参数比较重要,表示忽略大小写。

e 表示将输出的每一行,执行一个命令。不建议使用,可以使用xargs配合完成这种功能。

看两个命令的语法:

sed -n "s/a/b/gipw output.txt" file
sed "s/^/ls -la/e" file
好玩

由于正则的关系,很多字符需要转义。你会在脚本里做些很多*之类的处理。你可以使用|^@!四个字符来替换。 比如,下面五个命令是一样的。

sed "/aaa/s//etc//usr/g" file
sed "/aaa/s@/etc@/usr@g" file
sed "/aaa/s^/etc^/usr^g" file
sed "/aaa/s|/etc|/usr|g" file
sed "/aaa/s!/etc!/usr!g" file

注意:前半部分的范围是不能使用这种方式的。我习惯使用符号@

其他 正则表达式

可以看到,正则表达式在命令行中无处不在。以下,紧做简要说明。

^ 行首

$ 行尾

. 单个字符

* 0个或者多个匹配

+ 1个或者多个匹配

"); 0个或者1个匹配

{m} 前面的匹配重复m次

{m,n} 前面的匹配重复m到n次

** 转义字符

[0-9] 匹配括号中的任何一个字符,or的作用 | or,或者

 匹配一个单词。比如lucky 只匹配单词lucky

参数i

上面已经简单介绍了参数i,它的作用是让操作在原文件执行。无论你执行了啥,原始文件都将会被覆盖。这是非常危险的。 通过加入一个参数,可以将原文件做个备份。

sed -i.bak "s/a/b/" file

以上命令会对原file文件生效,并生成一个file.bak文件。强烈建议使用i参数同时指定bak文件。

表演一下

我们通过两个命令,来稍微看下sed和其他命令组合起来的威力。

输出长度不小于50个字符的行

sed -n "/^.{50}/p"

统计文件中有每个单词出现了多少次

sed "s/ /
/g" file | sort | uniq -c

查找目录中的py文件,删掉所有行级注释

find ./ -name "*.py" | xargs sed  -i.bak "/^[ ]*#/d"

查看第5-7行和10-13行

sed -n -e "5,7p" -e "10,13p" file

仅输出ip地址

ip route show | sed -n "/src/p" | sed -e "s/  */ /g" | cut -d" " -f9
End

本文配合《Linux生产环境上,最常用的一套“vim“技巧》 一文,查看更佳,你会发现很多相似的东西,这和KISS原则是密不可分的。 sed还有一个精华就是x(Exchange)命令,但也属于高级功能。有些你可能在很多Makefile里见过了。sed甚至还可以写推箱子游戏,虽然代码很酷,但,脑回路完全不够用啊。

https://github.com/aureliojargas/sokoban.sed

扩展阅读:

Linux之《荒岛余生》(一)准备篇

Linux之《荒岛余生》(二)CPU篇

Linux之《荒岛余生》(三)内存篇

Linux之《荒岛余生》(四)I/O篇

Linux之《荒岛余生》(五)网络篇

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/6963.html

相关文章

  • Linux生产环境常用一套“vim“技巧

    摘要:本篇文章聚焦的是研发线上最常用的一些功能。养成习惯最大的贡献就是它的按键系统。这不能说不对,但这也抛弃了最大的精华所在,效率上低了一大截。使用进行漫游,选中相应的内容。宏录制这可以说是的一个杀手锏了。将文件中的每一行添加到中。 新来的朋友,既得关注微信公众号《小姐姐味道》,更多精彩!https://mp.weixin.qq.com/s?__... 引子 研发线上使用最多的编辑器,就是v...

    Chaz 评论0 收藏0
  • Linux生产环境常用一套“vim“技巧

    摘要:本篇文章聚焦的是研发线上最常用的一些功能。养成习惯最大的贡献就是它的按键系统。这不能说不对,但这也抛弃了最大的精华所在,效率上低了一大截。使用进行漫游,选中相应的内容。宏录制这可以说是的一个杀手锏了。将文件中的每一行添加到中。 新来的朋友,既得关注微信公众号《小姐姐味道》,更多精彩!https://mp.weixin.qq.com/s?__... 引子 研发线上使用最多的编辑器,就是v...

    Magicer 评论0 收藏0
  • Linux生产环境常用一套“vim“技巧

    摘要:本篇文章聚焦的是研发线上最常用的一些功能。养成习惯最大的贡献就是它的按键系统。这不能说不对,但这也抛弃了最大的精华所在,效率上低了一大截。使用进行漫游,选中相应的内容。宏录制这可以说是的一个杀手锏了。将文件中的每一行添加到中。 新来的朋友,既得关注微信公众号《小姐姐味道》,更多精彩!https://mp.weixin.qq.com/s?__... 引子 研发线上使用最多的编辑器,就是v...

    wenhai.he 评论0 收藏0

发表评论

0条评论

Big_fat_cat

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<