Sed and awk 筆記之 sed 篇:高級命令(一)

sed篇總共分成6章:(簡書版)

Sed&awk筆記之sed篇:簡單介紹

Sed&awk筆記之sed篇:模式空間與地址匹配

Sed&awk筆記之sed篇:sed基礎命令

Sed&awk筆記之sed篇:高級命令(一)

Sed&awk筆記之sed篇:高級命令(二)

Sed&awk筆記之sed篇:實戰

上一篇中介紹的基礎命令都是面向行的,一般情況下,這種處理并沒有什么問題,但是當匹配的內容是錯開在兩行時就會有問題,最明顯的例子就是某些英文單詞會被分成兩行。

幸運地是,sed允許將多行內容讀取到模式空間,這樣你就可以匹配跨越多行的內容。本篇筆記主要介紹這些命令,它們能夠創建多行模式空間并且處理之。其中,N/D/P這三個多行命令分別對應于小寫的n/d/p命令,后者我們在上一篇已經介紹。它們的功能是類似的,區別在于命令影響的內容不同。例如D命令與d命令同樣是刪除模式空間的內容,只不過d命令會刪除模式空間中所有的內容,而D命令僅會刪除模式空間中的第一行。

讀下一行:N

N命令將下一行的內容讀取到當前模式空間,但是下n命令不一樣的地方是N命令并沒有直接輸出當前模式空間中的行,而是把下一行追加到當前模式空間,兩行之間用回車符\n連接,如下圖所示:

模式空間包含多行之后,正則表達式的^/$符號的意思就變了,^是匹配模式空間的最開始而非行首,$是匹配模式空間的最后位置而非行尾。

書中給的第一例子,是替換以下文本中的"Owner and Operator Guide"為"Installation Guide",正如我們在本篇開頭說的Owner and Operator Guide跨越在兩行:

Consult Section 3.1 in the Owner and Operator

Guide for a description of the tape drives

available on your system.

我們用N命令試下手:

$ sed'/Operator$/{N;s/Owner and Operator\nGuide/Installation Guide/}'textConsultSection3.1intheInstallationGuidefora description of the tape drives

available on your system.

不過這個例子有兩個局限:

我們知道Owner and Operator Guide分割的位置;

執行替換命令后,前后兩行拼接在一起,導致這行過長;

第二點,可以這樣解決:

$ sed'/Operator$/{N;s/Owner and Operator\nGuide /Installation Guide\n/}'textConsultSection3.1intheInstallationGuidefora description of the tape drives

available on your system.

現在去掉第1個前提,我們引入更加復雜的測試文本,這段文本中Owner and Operator Guide有位于一行的,也有跨越多行的情況:

$ cat textConsultSection3.1intheOwnerandOperatorGuidefora description of the tape drives

available on your system.LookintheOwnerandOperatorGuideshipped with your system.Twomanuals are provided including theOwnerandOperatorGuideand theUserGuide.TheOwnerandOperatorGuideis shipped with your system.

相應地修改下之前執行的命令,如下所示:

$ sed's/Owner and Operator Guide/Installation Guide/

/Owner/{

N

s/ *\n/ /

s/Owner and Operator Guide */Installation Guide\

/

}'textConsultSection3.1intheInstallationGuidefora description of the tape drives

available on your system.LookintheInstallationGuideshipped with your system.Twomanuals are provided including theInstallationGuideand theUserGuide.TheInstallationGuideis shipped with your system.

這里我們首先將在單行出現的Owner and Operator Guide替換為Installation Guide,然后再尋找匹配Owner的行,匹配后讀取下一行的內容到模式空間,并且將中間的換行符替換成空格,最后再替換Owner and Operator Guide。

解釋起來很簡單,但是中間還是有些門道的。比如你可能覺得這里最前面的s/Owner and Operator Guide/Installation Guide/命令是多余的,假設你刪除這一句:

$ sed'/Owner/{

> N

> s/ *\n/ /

> s/Owner and Operator Guide */Installation Guide\

> /

> }'textConsultSection3.1intheInstallationGuidefora description of the tape drives

available on your system.LookintheInstallationGuideshipped with your system.Twomanuals are provided including theInstallationGuideand theUserGuide.TheOwnerandOperatorGuideis shipped with your system.

最明顯的問題是最后一行沒有被替換,原因是當最后一行的被讀入到模式空間后,匹配Owner,執行N命令讀入下一行,但是因為當前已經是最后一行,所以N讀取替換,告訴sed可以退出了,sed也不會繼續執行接下來的替換命令(注:書中說最后一行不會被打印輸出,我這邊測試是會輸出的)。所以這里需要在使用N的時候加一個判斷,即當前行為最后一行時,不讀取下一行的內容:$!N,這一點在很多場合都是有用的,更改后重新執行:

$ sed'/Owner/{

> $!N

> s/ *\n/ /

> s/Owner and Operator Guide */Installation Guide\

> /

> }'textConsultSection3.1intheInstallationGuidefora description of the tape drives

available on your system.LookintheInstallationGuideshipped with your system.Twomanuals are provided including theInstallationGuideand theUserGuide.TheInstallationGuideis shipped with your system.

上面只是為了用例子說明N的用法,可能解決方案未必是最好的。

刪除行:D

該命令刪除模式空間中第一行的內容,而它對應的小d命令刪除模式空間的所有內容。如果模式空間中內容不為空,D不會導致讀入新行,相反它會回到最初的編輯命令,重要應用在模式空間剩余的內容上。

后面半句開始比較難以理解,用書中的一個例子來解釋下。現在我們有一個文本文件,內容如下所示,行之間有空行:

$ cat textThisline is followed by1blank line.Thisline is followed by2blank lines.Thisline is followed by3blank lines.Thisline is followed by4blank lines.Thisis the end.

現在我們要刪除多余的空行,將多個空行縮減成一行。假如我們使用d命令來刪除,很簡單的邏輯:

$ sed'/^$/{N;/^\n$/d}'textThisline is followed by1blank line.Thisline is followed by2blank lines.Thisline is followed by3blank lines.Thisline is followed by4blank lines.Thisis the end.

我們會發現一個奇怪的結果,奇數個數的相連空行已經被合并成一行,但是偶數個數的卻全部被刪除了。造成這樣的原因需要重新翻譯下上面的命令,當匹配一個空行是,將下一行也讀取到模式空間,然后若下一行也是空行,則模式空間中的內容應該是\n,因此匹配^\n$,從而執行d命令會將模式空間中的內容清空,結果就是相連的兩個空行都被刪除。這樣就可以理解為什么相連奇數個空行的情況下是正常的,而偶數個數就有問題了。

這種情況下,我們就應該用D命令來處理,這樣做就得到預期的結果了:

$ sed'/^$/{N;/^\n$/D}'textThisline is followed by1blank line.Thisline is followed by2blank lines.Thisline is followed by3blank lines.Thisline is followed by4blank lines.Thisis the end.

D命令只會刪除模式空間的第一行,而且刪除后會重新在模式空間的內容上執行編輯命令,類似形成一個循環,前提是相連的都是空行。當匹配一個空行時,N讀取下一行內容,此時匹配^\n$導致模式空間中的第一行被刪除。現在模式空間中的內容是空的,重新執行編輯命令,此時匹配/^$/。繼續讀取下一行,當下一行依然為空行時,重復之前的動作,否則輸出當前模式空間的內容。造成的結果是連續多個空行,只有最后一個空行是保留輸出的,其余的都被刪除了。這樣的結果才是我們最初希望得到的。

打印行:P

P命令與p命令一樣是打印模式空間的內容,不同的是前者僅打印模式空間的第一行內容,而后者是打印所有的內容。因為編輯命令全部執行完之后,sed默認會輸出模式空間的內容,所以一般情況下,p和P命令都是與-n選項一起使用的。但是有一種情況是例外的,即編輯命令的執行流程被改變的情況,例如N,D等。很多情況下,P命令都是用在N命令之后,D命令之前的。這三個命令合起來,可以形成一人輸入輸出的循環,并且每次只打印一行:讀入一行后,N繼續讀下一行,P命令打印第一行,D命令刪除第一行,執行流程回到最開始重復該過程。

$ echo-e"line1\nline2\nline3"|sed'$!N;P;D'

不過多行命令用起來要格外小心,你要用自己的大腦去演算一遍執行的過程,要不然很容易出錯,比如:

$ echo-e"line1\nline2\nline3"|sed-n'N;1P'

你可能期望打印第一行的內容,事實上并沒有輸出。原因是當N繼續讀入第二行后,當前行號已經是2了,我們在第二篇筆記中曾經說過,行號只是sed在內部維護的一個計數變量而已,每當讀入新的一行,行號就加一:

$ echo-e"line1\nline2\nline3"|sed-n'$!N;='23

我們依然用替換Unix System為Unix Operating System作為例子,介紹N/P/D三個命令是如何配合使用的。

示例文本如下所示,為了舉例方便,這段文本僅有三行內容,剛好可以演示一個循環的處理過程:

$ cat textTheUNIXSystemand UNIX...

執行的命令:

$ sed'/UNIX$/{

> N

> s/\nSystem/ Operating &/

> P

> D

> }'textTheUNIXOperatingSystemand UNIX...

執行過程如下圖所示:

以上三個命令的用法與之前介紹的基礎命令是截然不同的,有些同學可能都沒有接觸過。在下一篇中,我會介紹更多高級的命令,同時為引入一個新的概念:保持空間(Hold Space)。

轉自:團子的小窩, 本文固定鏈接:Sed and awk 筆記之 sed 篇:高級命令(一)

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 230,106評論 6 542
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,441評論 3 429
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,211評論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,736評論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,475評論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,834評論 1 328
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,829評論 3 446
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 43,009評論 0 290
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,559評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,306評論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,516評論 1 374
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,038評論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,728評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,132評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,443評論 1 295
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,249評論 3 399
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,484評論 2 379

推薦閱讀更多精彩內容