sed與awk實例

文本間隔

• 在每一行后面增加一空行

sed G
awk '{printf("%s\n\n",$0)}'

• 將原來的所有空行刪除并在每一行后面增加一空行。這樣在輸出的文本中每一行后面將有且只有一空行。

sed '/^$/d;G'
awk '!/^$/{printf("%s\n\n",$0)}'

• 在每一行后面增加兩行空行

sed 'G;G
awk '{printf("%s\n\n\n",$0)}'

• 將第一個腳本所產生的所有空行刪除(即刪除所有偶數行)

sed 'n;d'
awk '{f=!f;if(f)print $0}'

• 在匹配式樣“regex”的行之前插入一空行

sed '/regex/{x;p;x;}'
awk '{if(/regex/)printf("\n%s\n",$0);else print $0}'

• 在匹配式樣“regex”的行之后插入一空行

sed '/regex/G'
awk '{if(/regex/)printf("%s\n\n",$0);else print $0}'

• 在匹配式樣“regex”的行之前和之后各插入一空行

sed '/regex/{x;p;x;G;}'
awk '{if(/regex/)printf("\n%s\n\n",$0);else print $0}'

文本編號

• 為文件中的每一行進行編號（簡單的左對齊方式）。這里使用了“制表符”（tab，見本文末尾關于'\t'的用法的描述）而不是空格來對齊邊緣。

sed = filename | sed 'N;s/\n/\t/'
awk '{i++;printf("%d\t%s\n",i,$0)}'

• 對文件中的所有行編號（行號在左，文字右端對齊）。

sed = filename | sed 'N; s/^/     /; s/ *\(.\{6,\}\)\n/\1  /'
awk '{i++;printf("%6d %s\n",i,$0)

• 對文件中的所有行編號，但只顯示非空白行的行號。

sed '/./=' filename | sed '/./N; s/\n/ /'
awk '{i++;if(!/^$/)printf("%d %s\n",i,$0);else print}'

• 計算行數 （模擬 "wc -l"）

sed -n '$='
awk '{i++}END{print i}'

文本轉換和替代

• Unix環境：轉換DOS的新行符（CR/LF）為Unix格式。

sed 's/.$//' # 假設所有行以CR/LF結束
sed 's/^M$//' # 在bash/tcsh中，將按Ctrl-M改為按Ctrl-V
sed 's/\x0D$// # ssed、gsed3.02.80，及更高版本
awk '{sub(/\x0D$/,"");print $0}'

• Unix環境：轉換Unix的新行符（LF）為DOS格式。

sed "s/$/`echo -e \\\r`/" # 在ksh下所使用的命令
sed 's/$'"/`echo \\\r`/" # 在bash下所使用的命令
sed "s/$/`echo \\\r`/" # 在zsh下所使用的命令
sed 's/$/\r/' # gsed 3.02.80 及更高版本
awk '{printf("%s\r\n",$0)}'

• DOS環境：轉換Unix新行符（LF）為DOS格式。

sed "s/$//" # 方法 1`
sed -n p # 方法 2

• DOS環境：轉換DOS新行符（CR/LF）為Unix格式。
  注: 下面的腳本只對UnxUtils sed 4.0.7 及更高版本有效。要識別UnxUtils版本的sed可以通過其特有的“--text”選項。你可以使用幫助選項（“--help”）看其中有無一個“--text”項以此來判斷所使用的是否是UnxUtils版本。其它DOS版本的的sed則無法進行這一轉換。但可以用“tr”來實現這一轉換。

sed "s/\r//" infile >outfile # UnxUtils sed v4.0.7 或更高版本`
tr -d \r outfile # GNU tr 1.22 或更高版本

• 將每一行前導的“空白字符”（空格、制表符）刪除，使之左對齊

sed 's/^[ \t]*//' # 見本文末尾關于'\t'用法的描述
awk '{sub(/^[ \t]+/,"");print $0}'

• 將每一行拖尾的“空白字符”（空格、制表符）刪除

sed 's/[ \t]*$//' # 見本文末尾關于'\t'用法的描述
awk '{sub(/[ \t]+$/,"");print $0}'

• 將每一行中的前導和拖尾的空白字符刪除

sed 's/^[ \t]*//;s/[ \t]*$//'
awk '{sub(/^[ \t]+/,"");sub(/[ \t]+$/,"");print $0}'

• 在每一行開頭處插入5個空格（使全文向右移動5個字符的位置）

sed 's/^/     /'
awk '{printf(" %s\n",$0)}'

• 以79個字符為寬度，將所有文本右對齊

sed -e :a -e 's/^.\{1,78\}$/ &/;ta' # 78個字符外加最后的一個空格
awk '{printf("%79s\n",$0)}'

• 以79個字符為寬度，使所有文本居中。
  注: 在方法1中，為了讓文本居中每一行的前頭和后頭都填充了空格。 在方法2中，在居中文本的過程中只在文本的前面填充空格，并且最終這些空格將有一半會被刪除。此外每一行的后頭并未填充空格。

sed  -e :a -e 's/^.\{1,77\}$/ & /;ta' # 方法1
sed  -e :a -e 's/^.\{1,77\}$/ &/;ta' -e 's/\( *\)\1/\1/' # 方法2
awk '{for(i=0;i<39-length($0)/2;i++)printf(" ");printf("%s\n",$0)}'

• 在每一行中查找字串“foo”，并將找到的“foo”替換為“bar”

sed 's/foo/bar/'                 # 只替換每一行中的第一個“foo”字串
sed 's/foo/bar/4'                # 只替換每一行中的第四個“foo”字串
sed 's/foo/bar/g'                # 將每一行中的所有“foo”都換成“bar”
sed 's/\(.*\)foo\(.*foo\)/\1bar\2/' # 替換倒數第二個“foo”
 sed 's/\(.*\)foo/\1bar/'            # 替換最后一個“foo”
awk '{gsub(/foo/,"bar");print $0}' # 將每一行中的所有“foo”都換成“bar”

• 只在行中出現字串“baz”的情況下將“foo”替換成“bar”

sed '/baz/s/foo/bar/g'
awk '{if(/baz/)gsub(/foo/,"bar");print $0}'

• 將“foo”替換成“bar”，并且只在行中未出現字串“baz”的情況下替換

sed '/baz/!s/foo/bar/g'
awk '{if(/baz$/)gsub(/foo/,"bar");print $0}'

• 不管是“scarlet”“ruby”還是“puce”，一律換成“red”

sed 's/scarlet/red/g;s/ruby/red/g;s/puce/red/g'  #對多數的sed都有效
gsed 's/scarlet\|ruby\|puce/red/g'  # 只對GNU sed有效
awk '{gsub(/scarlet|ruby|puce/,"red");print $0}'

• 倒置所有行，第一行成為最后一行，依次類推（模擬“tac”）。
  注: 由于某些原因，使用下面命令時HHsed v1.5會將文件中的空行刪除

sed '1!G;h;$!d'               # 方法1
sed -n '1!G;h;$p'             # 方法2
awk '{A[i++]=$0}END{for(j=i-1;j>=0;j--)print A[j]}'

• 將行中的字符逆序排列，第一個字成為最后一字，……（模擬“rev”）

sed '/\n/!G;s/\(.\)\(.*\n\)/&\2\1/;//D;s/.//'
awk '{for(i=length($0);i>0;i--)printf("%s",substr($0,i,1));printf("\n")}'

• 將每兩行連接成一行（類似“paste”）

sed '$!N;s/\n/ /'
awk '{f=!f;if(f)printf("%s",$0);else printf(" %s\n",$0)}'

• 如果當前行以反斜杠“\”結束，則將下一行并到當前行末尾并去掉原來行尾的反斜杠

sed -e :a -e '/\\$/N; s/\\\n//; ta'
awk '{if(/$/)printf("%s",substr($0,0,length($0)-1));else printf("%s\n",$0)}'

• 如果當前行以等號開頭，將當前行并到上一行末尾并以單個空格代替原來行頭的“=”

sed -e :a -e '$!N;s/\n=/ /;ta' -e 'P;D'
awk '{if(/^=/)printf(" %s",substr($0,2));else printf("%s%s",a,$0);a="\n"}END{printf("\n")}'

• 為數字字串增加逗號分隔符號，將“1234567”改為“1,234,567”

gsed ':a;s/\B[0-9]\{3\}\>/,&/;ta'    # GNU sed
sed -e :a -e 's/\(.*[0-9]\)\([0-9]\{3\}\)/\1,\2/;ta'  # 其他sed
awk '{while(match($0,/[0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",substr($0,0, RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'

• 為帶有小數點和負號的數值增加逗號分隔符（GNU sed）

gsed -r ':a;s/(^|[^0-9.])([0-9]+)([0-9]{3})/\1\2,\3/g;ta'
awk '{while(match($0,/[^.0-9][0-9][0-9][0-9][0-9]+/)){$0=sprintf("%s,%s",subst r($0,0,RSTART+RLENGTH-4),substr($0,RSTART+RLENGTH-3))}print $0}'

• 在每5行后增加一空白行 (在第5，10，15，20，等行后增加一空白行)

gsed '0~5G'                      # 只對GNU sed有效
sed 'n;n;n;n;G;'                 # 其他sed
awk '{print $0;i++;if(i==5){printf("\n");i=0}}'

選擇性地顯示特定行

• 顯示文件中的前10行 （模擬“head”的行為）

sed 10q
awk '{print;if(NR==10)exit}'

• 顯示文件中的第一行 （模擬“head -1”命令）

sed q
awk '{print;exit}'

• 顯示文件中的最后10行 （模擬“tail”）

sed -e :a -e '$q;N;11,$D;ba'
awk '{A[NR]=$0}END{for(i=NR-9;i<=NR;i++)print A[i]}'

• 顯示文件中的最后2行（模擬“tail -2”命令）

sed '$!N;$!D'
awk '{A[NR]=$0}END{for(i=NR-1;i<=NR;i++)print A[i]}'

• 顯示文件中的最后一行（模擬“tail -1”）

sed '$!d'                        # 方法1
sed -n '$p'                      # 方法2
awk '{A=$0}END{print A}'

• 顯示文件中的倒數第二行

sed -e '$!{h;d;}' -e x              # 當文件中只有一行時，輸入空行
sed -e '1{$q;}' -e '$!{h;d;}' -e x  # 當文件中只有一行時，顯示該行
sed -e '1{$d;}' -e '$!{h;d;}' -e x  # 當文件中只有一行時，不輸出
awk '{B=A;A=$0}END{print B}'

• 只顯示匹配正則表達式的行（模擬“grep”）

sed -n '/regexp/p'               # 方法1
sed '/regexp/!d'                 # 方法2
awk '/regexp/{print}'

• 只顯示“不”匹配正則表達式的行（模擬“grep -v”）

sed -n '/regexp/!p'              # 方法1，與前面命令相對應
sed '/regexp/d'                  # 方法2，類似的語法
awk '!/regexp/{print}'

• 查找“regexp”并將匹配行的上一行顯示出來，但并不顯示匹配行

sed -n '/regexp/{g;1!p;};h'
awk '/regexp/{print A}{A=$0}'

• 查找“regexp”并將匹配行的下一行顯示出來，但并不顯示匹配行

sed -n '/regexp/{n;p;}'
awk '{if(A)print;A=0}/regexp/{A=1}'

• 顯示包含“regexp”的行及其前后行，并在第一行之前加上“regexp”所在行的行號 （類似“grep -A1 -B1”）

sed -n -e '/regexp/{=;x;1!p;g;$!N;p;D;}' -e h
awk '{if(F)print;F=0}/regexp/{print NR;print b;print;F=1}{b=$0}'

• 顯示包含“AAA”、“BBB”或“CCC”的行（任意次序）

sed '/AAA/!d; /BBB/!d; /CCC/!d'  # 字串的次序不影響結果
awk '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'

• 顯示包含“AAA”、“BBB”和“CCC”的行（固定次序）

sed '/AAA.*BBB.*CCC/!d'
awk '{if(match($0,/AAA._BBB._CCC/))print}'

• 顯示包含“AAA”“BBB”或“CCC”的行 （模擬“egrep”）

sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d   # 多數sed
gsed '/AAA\|BBB\|CCC/!d'                        # 對GNU sed有效
awk '/AAA/{print;next}/BBB/{print;next}/CCC/{print}'
awk '/AAA|BBB|CCC/{print}'

• 顯示包含“AAA”的段落 (段落間以空行分隔)HHsed v1.5 必須在“x;”后加入“G;”，接下來的3個腳本都是這樣

sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;'
awk 'BEGIN{RS=""}/AAA/{print}'
awk -vRS= '/AAA/{print}'

• 顯示包含“AAA”“BBB”和“CCC”三個字串的段落 （任意次序）

sed -e '/./{H;$!d;}' -e 'x;/AAA/!d;/BBB/!d;/CCC/!d'
awk -vRS= '{if(match($0,/AAA/) && match($0,/BBB/) && match($0,/CCC/))print}'

• 顯示包含“AAA”、“BBB”、“CCC”三者中任一字串的段落 （任意次序）

sed -e '/./{H;$!d;}' -e 'x;/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d
gsed '/./{H;$!d;};x;/AAA\|BBB\|CCC/b;d'         # 只對GNU sed有效
awk -vRS= '/AAA|BBB|CCC/{print "";print}'

• 顯示包含65個或以上字符的行

sed -n '/^.\{65\}/p'
cat ll.txt | awk '{if(length($0)>=65)print}'

• 顯示包含65個以下字符的行

sed -n '/^.\{65\}/!p'            # 方法1，與上面的腳本相對應
sed '/^.\{65\}/d'                # 方法2，更簡便一點的方法
awk '{if(length($0)<=65)print}'

• 顯示部分文本——從包含正則表達式的行開始到最后一行結束

sed -n '/regexp/,$p'
awk '/regexp/{F=1}{if(F)print}'

• 顯示部分文本——指定行號范圍（從第8至第12行，含8和12行）

sed -n '8,12p'                   # 方法1
sed '8,12!d'                     # 方法2
awk '{if(NR>=8 && NR<12)print}'

• 顯示第52行

sed -n '52p'                     # 方法1
sed '52!d'                       # 方法2
sed '52q;d'                      # 方法3, 處理大文件時更有效率
awk '{if(NR==52){print;exit}}'

• 從第3行開始，每7行顯示一次

gsed -n '3~7p'                   # 只對GNU sed有效
sed -n '3,${p;n;n;n;n;n;n;}'     # 其他sed
awk '{if(NR==3)F=1}{if(F){i++;if(i%7==1)print}}'

• 顯示兩個正則表達式之間的文本（包含）

sed -n '/Iowa/,/Montana/p'       # 區分大小寫方式
awk '/Iowa/{F=1}{if(F)print}/Montana/{F=0}'

選擇性地刪除特定行

• 顯示通篇文檔，除了兩個正則表達式之間的內容

sed '/Iowa/,/Montana/d'
awk '/Iowa/{F=1}{if(!F)print}/Montana/{F=0}'

• 刪除文件中相鄰的重復行（模擬“uniq”）只保留重復行中的第一行，其他行刪除

sed '$!N; /^\(.*\)\n\1$/!P; D'
awk '{if($0!=B)print;B=$0}'

• 刪除文件中的重復行，不管有無相鄰。注意hold space所能支持的緩存大小，或者使用GNU sed。

sed -n 'G; s/\n/&&/; /^\([ -~]*\n\).*\n\1/d; s/\n//; h; P'
awk '{if(!($0 in B))print;B[$0]=1}'

• 刪除除重復行外的所有行（模擬“uniq -d”）

sed '$!N; s/^\(.*\)\n\1$/\1/; t; D'
awk '{if($0==B && $0!=l){print;l=$0}B=$0}'

• 刪除文件中開頭的10行

sed '1,10d'
awk '{if(NR>10)print}'

• 刪除文件中的最后一行

sed '$d'
awk '{B[NR]=$0}END{for(i=0;i<=NR-1;i++)print B[i]}' # 通篇檢索，不適合大文件

• 刪除文件中的最后兩行

sed 'N;$!P;$!D;$d'
awk '{B[NR]=$0}END{for(i=0;i<=NR-2;i++)print B[i]}'

• 刪除文件中的最后10行

sed -e :a -e '$d;N;2,10ba' -e 'P;D'   # 方法1
sed -n -e :a -e '1,10!{P;N;D;};N;ba'  # 方法2
awk '{B[NR]=$0}END{for(i=0;i<=NR-10;i++)print B[i]}'

• 刪除8的倍數行

gsed '0~8d'                           # 只對GNU sed有效
sed 'n;n;n;n;n;n;n;d;'                # 其他sed
awk '{if(NR%8!=0)print}' |head

• 刪除匹配式樣的行

sed '/pattern/d'   # 刪除含pattern的行。當然pattern可以換成任何有效的正則表達式
awk '{if(!match($0,/pattern/))print}'

• 刪除文件中的所有空行（與“grep '.' ”效果相同）

sed '/^$/d'    # 方法1
sed '/./!d'  # 方法2
awk '{if(!match($0,/^$/))print}'

• 只保留多個相鄰空行的第一行。并且刪除文件頂部和尾部的空行。（模擬“cat -s”）

sed '/./,/^$/!d'        #方法1，刪除文件頂部的空行，允許尾部保留一空行
sed '/^$/N;/\n$/D'      #方法2，允許頂部保留一空行，尾部不留空行
awk '{if(!match($0,/^$/)){print;F=1}else{if(F)print;F=0}}'

• 只保留多個相鄰空行的前兩行。

sed '/^$/N;/\n$/N;//D'
awk '{if(!match($0,/^$/)){print;F=0}else{if(F<2)print;F++}}'

• 刪除文件頂部的所有空行

sed '/./,$!d'
awk '{if(F || !match($0,/^$/)){print;F=1}}'

• 刪除文件尾部的所有空行

sed -e :a -e '/^\n*$/{$d;N;ba' -e '}'  # 對所有sed有效
sed -e :a -e '/^\n*$/N;/\n$/ba'        # 同上，但只對 gsed 3.02.*有效

• 刪除每個段落的最后一行

sed -n '/^$/{p;h;};/./{x;/./p;}'

特殊應用

• 移除手冊頁（man page）中的nroff標記。在Unix System V或bash shell下使用'echo'命令時可能需要加上 -e 選項。

sed "s/.`echo \\\b`//g"    # 外層的雙括號是必須的（Unix環境）
sed 's/.^H//g'             # 在bash或tcsh中, 按 Ctrl-V 再按 Ctrl-H
sed 's/.\x08//g'           # sed 1.5，GNU sed，ssed所使用的十六進制的表示方法
awk '{gsub(/.\x08/,"",$0);print}'

• 提取新聞組或 e-mail 的郵件頭

sed '/^$/q'                # 刪除第一行空行后的所有內容
awk '{print}/^$/{exit}'

• 提取新聞組或 e-mail 的正文部分

sed '1,/^$/d'              # 刪除第一行空行之前的所有內容
awk '{if(F)print}/^$/{F=1}'

• 從郵件頭提取“Subject”（標題欄字段），并移除開頭的“Subject:”字樣

sed '/^Subject: */!d; s///;q'
awk '/^Subject:._/{print substr($0,10)}/^$/{exit}'

• 從郵件頭獲得回復地址

sed '/^Reply-To:/q; /^From:/h; /./d;g;q'
awk '/^Reply-To:.*/{print;exit}/^$/{exit}'

• 獲取郵件地址。在上一個腳本所產生的那一行郵件頭的基礎上進一步的將非電郵地址的部分剃除。（見上一腳本）

sed 's/ *(.*)//; s/>.*//; s/.*[:<] *//'
awk -F'[<>]+' '{print $2}'

• 在每一行開頭加上一個尖括號和空格（引用信息）

sed 's/^/> /'
awk '{print "> " $0}'

• 將每一行開頭處的尖括號和空格刪除（解除引用）

sed 's/^> //'
awk '/^> /{print substr($0,3)}'

• 移除大部分的HTML標簽（包括跨行標簽）

sed -e :a -e 's/<[^>]*>//g;/zipup.bat
dir /b *.txt | sed "s/^\(.*\)\.TXT/pkzip -mo \1 \1.TXT/" >>zipup.bat

Sed接受一個或多個編輯命令，并且每讀入一行后就依次應用這些命令。當讀入第一行輸入后，sed對其應用所有的命令，然后將結果輸出。接著再讀入第二行輸入，對其應用所有的命令……并重復這個過程。上一個例子中sed由標準輸入設備（即命令解釋器，通常是以管道輸入的形式）獲得輸入。在命令行給出一個或多個文件名作為參數時，這些文件取代標準輸入設備成為sed的輸入。sed的輸出將被送到標準輸出（顯示器）。因此：

cat filename | sed '10q'         # 使用管道輸入
sed '10q' filename               # 同樣效果，但不使用管道輸入
sed '10q' filename > newfile     # 將輸出轉移（重定向）到磁盤上

其它

• 試一下這些命令“man sed”、“man regexp”或者看“man ed”中關于正則表達式的部分以擴展sed用法。

• 括號語法
  前面的例子對sed命令基本上都使- 用單引號（'...'）而非雙引號（"..."）這是因為sed通常是在Unix平臺上使用。單引號下，Unixshell（命令解釋器）不會對美元符（$）和后引號（...）進行解釋和執行。而在雙引號下
  美元符會被展開為變量或參數的值，后引號中的命令被執行并以輸出的結果代替后引號中的內容。而在“csh”及其衍生的shell中使用感嘆號（!）時需要在其前面加上轉義用的反斜杠（就像這樣：!）以保證上面所使用的例子能正常運行（包括使用單引號的情況下）。DOS版本的Sed則一律使用雙引號（"..."）而不是單引號來圈起命令。

• '\t'的用法
  為了使本文保持行文簡潔，我們在腳本中使用'\t'來表示一個制表符。但是現在大部分版本的sed還不能識別'\t'的簡寫方式，因此當在命令行中為腳本輸入制表符時，你應該直接按TAB鍵來輸入制表符而不是輸入'\t'。下列的工
  具軟件都支持'\t'做為一個正則表達式的字元來表示制表符：awk、perl、HHsed、sedmod以及GNU sed v3.02.80。

• 不同版本的sed
  不同的版本間的sed會有些不同之處，可以想象它們之間在語法上會有差異。具體而言，它們中大部分不支持在編輯命令中間使用標簽（:name）或分支命令（b,t），除非是放在那些的末尾。這篇文檔中我們盡量選用了可移植性較高的語法，以使大多數版本的sed的用戶都能使用這些腳本。不過GNU版本的sed允許使用更簡潔的語法。想像一下當讀者看到一個很長的命令時的心情：

sed -e '/AAA/b' -e '/BBB/b' -e '/CCC/b' -e d

好消息是GNU sed能讓命令更緊湊：

sed '/AAA/b;/BBB/b;/CCC/b;d'      # 甚至可以寫成sed '/AAA\|BBB\|CCC/b;d'

此外，請注意雖然許多版本的sed接受象“/one/ s/RE1/RE2/”這種在's'前帶有空格的命令，但這些版本中有些卻不接受這樣的命令:“/one/! s/RE1/RE2/”。這時只需要把中間的空格去掉就行了。

• 速度優化
  當由于某種原因（比如輸入文件較大、處理器或硬盤較慢等）需要提高命令執行速度時，可以考慮在替換命令（“s/.../.../”）前面加上地址表達式來提高速度。舉例來說：

sed 's/foo/bar/g' filename         # 標準替換命令
sed '/foo/ s/foo/bar/g' filename   # 速度更快
sed '/foo/ s//bar/g' filename      # 簡寫形式

當只需要顯示文件的前面的部分或需要刪除后面的內容時，可以在腳本中使用“q”命令（退出命令）。在處理大的文件時，這會節省大量時間。因此：

sed -n '45,50p' filename           # 顯示第45到50行
sed -n '51q;45,50p' filename       # 一樣，但快得多

注：版權歸原創作者所有