sed和awk的简单使用

2009年02月21日 | 3,480 次浏览 | 标签: , | 1条评论  

平时都用ubuntu,所以处理问题的时候经常都是想到linux下提供的程序。sed和awk是其中两个很强大的工具,用它们来作查找和替换非常方便。

以下是我最近使用过的几个实际例子

  1. #使用脚本中的$VERSION变量替换{VERSION}字串,注意这里得使用双引号
  2. sed -i "s/{VERSION}/$VERSION/g" $UPDATE_FILE
  3. #去掉含有updateKey的行
  4. sed -i "s/.*updateKey.*//" install.rdf
  5. #替换含有js/core.js?v=1234为<?php HtmlHelper::getJS('1'); ?>
  6. #这里正则中的.不用转义,但是(、)、+都需要转
  7. #后面引用前面正则的子匹配使用1、2、……
  8. sed -i "s/.*js/(w+).js?v=.*/<?php HtmlHelper::getJS('1'); ?>/g" *
  9.  
  10. #获得$XPIFILE文件的hash
  11. HASH=`sha1sum $XPIFILE |awk '{print $1}'`
  12. #从<em:version>0.1.3</em:version>中获得当前版本号
  13. VERSION=`awk '/(<em:version>([^<]*)</em:version>)/' install.rdf |awk -F '>' '{print $2}'|awk -F '<' '{print $1}'`

批量替换以后,如果你使用svn,还可以配合vim来复查替换的结果。我常用的做法是

  1. xp@xp-notebook:www$ svn di > ~/diff
  2. xp@xp-notebook:www$ vim ~/diff

这样可以获得vim的语法高亮,如果能再配合mark插件,那就非常完美了。

以前在windows中经常使用dreamweaver来作查找替换,但是和linux的工具(grep/sed/awk)相比,速度和效率上就差了很多。

更新几个例子
1.找到并删除匹配的行

  1. #这里找到含有google统计脚本的行并删掉。/<script src=".*urchin.js".*>$/是匹配的正则表达式,d是执行的命令。
  2. sed -i '/<script src=".*urchin.js".*>$/d' filename

2.删除找到匹配行的下一行

  1. #删除包含页脚后面的</div>。这里的n表示往下读下一行。
  2. sed -i "/<?php include_once( 'footer.php' ); ?>/{ n; /</div>$/d;}" filename

3.多行匹配和引号转义

  1. #找到header区块并替换为<?php include_once( 'header.php' ); ?>。
  2. #:begin 是设定一个begin标记,每个分号代表一个语句结束
  3. #/<div id="header">/,/</div>$/    reg1,reg2  两个正则表达式限定查找的范围,大括号内为执行的命令。
  4. # /</div>$/! 非最后匹配行,$!表示非文件最后一行, N表示追加下一行到缓冲区,b begin是跳到begin开始,如此循环直到header区块都在缓冲区。
  5. #然后执行s/<div id="header">.*logo.*</div>/<?php include_once( 'header.php' ); ?>/; 替换
  6. sed -i ":begin; /<div id="header">/,/</div>$/ { /</div>$/! { $! { N; b begin }; }; s/<div id="header">.*logo.*</div>/<?php include_once( 'header.php' ); ?>/;     };" filename

4.awk切分field时括号的转义
在centos中默认的awk是gawk,而在ubuntu中默认是mawk,可以使用awk –version 或者 awk -W version查看使用什么版本的awk。
使用mawk直接用\(转义即可,在gawk中使用\\(转义而且是单引号。

  1. #以下例子是查找abc.css中所有的背景图片(去掉重复的)
  2. # 只对mawk有效
  3. grep 'url(\.\.' abc.css |awk -F'url\(' '{print $2}'|awk -F")" '{print $1}'|sort -u
  4. grep 'url(\.\.' abc.css |awk -F"url\(" '{print $2}'|awk -F")" '{print $1}'|sort -u
  5. # mawk和gawk都ok
  6. grep 'url(\.\.' abc.css |awk -F'url\\(' '{print $2}'|awk -F")" '{print $1}'|sort -u

参考
用sed替换跨行内容
关于sed的小发现

相关文章

评论(1)

  1. rank 发表于2010年08月28日 10:21 pm

    我对vim真不太在行。但工作关系一般win里的ep和linux终端vim都在用。vim/shell是比较初级的那种,遇到问题就查手册。
    不过最近用vim/shell多起来,开始在熟悉中了,呵呵

发表评论

更多文章

最受欢迎

评论最多