項目上線之后,或者在測試環(huán)境,經(jīng)常會有bug讓我們?nèi)ヅ挪楹托薷模@個時候,我們需要在linux系統(tǒng)中使用一些命令幫我我們解決問題。今天和大家談談grep命令。
今天遇到這樣一個問題,線上的一個問題,在一個月之后發(fā)現(xiàn)的,但是log的配置文件只保留最近七天的日子,這樣,查看一個月前的單日回滾的日志文件就沒有可能。但是tomcat等應用服務器有個統(tǒng)一放日志的地方,比如catalina.out文件,放了所有的日志,所以只能從這個文件入手查找bug的日志。
grep詳解
簡介
grep (global search regular expression(RE) and print out the line,全面搜索正則表達式并把行打印出來)是一種強大的文本搜索工具,它能使用正則表達式搜索文本,并把匹配的行打印出來。
Unix的grep家族包括grep、egrep和fgrep。egrep和fgrep的命令只跟grep有很小不同。egrep是grep的擴展,支持更多的re元字符, fgrep就是fixed grep或fast grep,它們把所有的字母都看作單詞,也就是說,正則表達式中的元字符表示回其自身的字面意義,不再特殊。linux使用GNU版本的grep。它功能更強,可以通過-G、-E、-F命令行選項來使用egrep和fgrep的功能。
功能:輸入文件的每一行中查找字符串。
基本用法:
grep [-acinv] [--color=auto] [-A n] [-B n] '搜尋字符串' 文件名
參數(shù)說明:
-a:將二進制文檔以文本方式處理
-c:顯示匹配次數(shù)
-i:忽略大小寫差異
-n:在行首顯示行號
-A:After的意思,顯示匹配字符串后n行的數(shù)據(jù)
-B:before的意思,顯示匹配字符串前n行的數(shù)據(jù)
-v:顯示沒有匹配行-A:After的意思,顯示匹配部分之后n行-B:before的意思,顯示匹配部分之前n行
grep可用于shell腳本,因為grep通過返回一個狀態(tài)值來說明搜索的狀態(tài),如果模板搜索成功,則返回0,如果搜索不成功,則返回1,如果搜索的文件不存在,則返回2。我們利用這些返回值就可進行一些自動化的文本處理工作。
1.命令格式:
grep [option] pattern file
2.命令功能:
用于過濾/搜索的特定字符。可使用正則表達式能多種命令配合使用,使用上十分靈活。
3.命令參數(shù):
-a --text #不要忽略二進制的數(shù)據(jù)。
-A<顯示行數(shù)> --after-context=<顯示行數(shù)> #除了顯示符合范本樣式的那一列之外,并顯示該行之后的內(nèi)容。
-b --byte-offset #在顯示符合樣式的那一行之前,標示出該行第一個字符的編號。
-B<顯示行數(shù)> --before-context=<顯示行數(shù)> #除了顯示符合樣式的那一行之外,并顯示該行之前的內(nèi)容。
-c --count #計算符合樣式的列數(shù)。
-C<顯示行數(shù)> --context=<顯示行數(shù)>或-<顯示行數(shù)> #除了顯示符合樣式的那一行之外,并顯示該行之前后的內(nèi)容。
-d <動作> --directories=<動作> #當指定要查找的是目錄而非文件時,必須使用這項參數(shù),否則grep指令將回報信息并停止動作。
-e<范本樣式> --regexp=<范本樣式> #指定字符串做為查找文件內(nèi)容的樣式。
-E --extended-regexp #將樣式為延伸的普通表示法來使用。
-f<規(guī)則文件> --file=<規(guī)則文件> #指定規(guī)則文件,其內(nèi)容含有一個或多個規(guī)則樣式,讓grep查找符合規(guī)則條件的文件內(nèi)容,格式為每行一個規(guī)則樣式。
-F --fixed-regexp #將樣式視為固定字符串的列表。
-G --basic-regexp #將樣式視為普通的表示法來使用。
-h --no-filename #在顯示符合樣式的那一行之前,不標示該行所屬的文件名稱。
-H --with-filename #在顯示符合樣式的那一行之前,表示該行所屬的文件名稱。
-i --ignore-case #忽略字符大小寫的差別。
-l --file-with-matches #列出文件內(nèi)容符合指定的樣式的文件名稱。
-L --files-without-match #列出文件內(nèi)容不符合指定的樣式的文件名稱。
-n --line-number #在顯示符合樣式的那一行之前,標示出該行的列數(shù)編號。
-q --quiet或--silent #不顯示任何信息。
-r --recursive #此參數(shù)的效果和指定“-d recurse”參數(shù)相同。
-s --no-messages #不顯示錯誤信息。
-v --revert-match #顯示不包含匹配文本的所有行。
-V --version #顯示版本信息。
-w --word-regexp #只顯示全字符合的列。
-x --line-regexp #只顯示全列符合的列。
-y #此參數(shù)的效果和指定“-i”參數(shù)相同。
4.規(guī)則表達式:
grep的規(guī)則表達式:
^ 錨定行的開始 如:'^grep'匹配所有以grep開頭的行。
$ 錨定行的結(jié)束 如:'grep$'匹配所有以grep結(jié)尾的行。
. 匹配一個非換行符的字符 如:'gr.p'匹配gr后接一個任意字符,然后是p。
匹配零個或多個先前字符 如:'grep'匹配所有一個或多個空格后緊跟grep的行。
.* 一起用代表任意字符
[] 匹配一個指定范圍內(nèi)的字符,如'[Gg]rep'匹配Grep和grep。
[^] 匹配一個不在指定范圍內(nèi)的字符,如:'[^A-FH-Z]rep'匹配不包含A-R和T-Z的一個字母開頭,緊跟rep的行。
(..) 標記匹配字符,如'(love)',love被標記為1。
< 錨定單詞的開始,如:'<grep'匹配包含以grep開頭的單詞的行。
> 錨定單詞的結(jié)束,如'grep>'匹配包含以grep結(jié)尾的單詞的行。
x{m} 重復字符x,m次,如:'0{5}'匹配包含5個o的行。
x{m,} 重復字符x,至少m次,如:'o{5,}'匹配至少有5個o的行。
x{m,n} 重復字符x,至少m次,不多于n次,如:'o{5,10}'匹配5--10個o的行。
\w 匹配文字和數(shù)字字符,也就是[A-Za-z0-9],如:'G\w*p'匹配以G后跟零個或多個文字或數(shù)字字符,然后是p。
\W \w的反置形式,匹配一個或多個非單詞字符,如點號句號等。
\b 單詞鎖定符,如: '\bgrep\b'只匹配grep。
POSIX字符:
為了在不同國家的字符編碼中保持一至,POSIX(The Portable Operating System Interface)增加了特殊的字符類,如[:alnum:]是[A-Za-z0-9]的另一個寫法。要把它們放到[]號內(nèi)才能成為正則表達式,如[A- Za-z0-9]或[[:alnum:]]。在linux下的grep除fgrep外,都支持POSIX的字符類。
[:alnum:] #文字數(shù)字字符
[:alpha:] #文字字符
[:digit:] #數(shù)字字符
[:graph:] #非空字符(非空格、控制字符)
[:lower:] #小寫字符
[:cntrl:] #控制字符
[:print:] #非空字符(包括空格)
[:punct:] #標點符號
[:space:] #所有空白字符(新行,空格,制表符)
[:upper:] #大寫字符
[:xdigit:] #十六進制數(shù)字(0-9,a-f,A-F)
5.使用實例:
實例1:查找指定進程
命令:
ps -ef|grep svn
輸出:
[root@localhost ~]# ps -ef|grep svn
root 4943 1 0 Dec05 ? 00:00:00 svnserve -d -r /opt/svndata/grape/
root 16867 16838 0 19:53 pts/0 00:00:00 grep svn
[root@localhost ~]#
說明:
第一條記錄是查找出的進程;第二條結(jié)果是grep進程本身,并非真正要找的進程。
實例2:查找指定進程個數(shù)
命令:
ps -ef|grep svn -c
ps -ef|grep -c svn
輸出:
[root@localhost ~]# ps -ef|grep svn -c
2
[root@localhost ~]# ps -ef|grep -c svn
2
[root@localhost ~]#
說明:
實例3:從文件中讀取關鍵詞進行搜索
命令:
cat test.txt | grep -f test2.txt
輸出:
[root@localhost test]# cat test.txt
hnlinux
peida.cnblogs.com
ubuntu
ubuntu linux
redhat
Redhat
linuxmint
[root@localhost test]# cat test2.txt
linux
Redhat
[root@localhost test]# cat test.txt | grep -f test2.txt
hnlinux
ubuntu linux
Redhat
linuxmint
[root@localhost test]#
說明:
輸出test.txt文件中含有從test2.txt文件中讀取出的關鍵詞的內(nèi)容行
實例3:從文件中讀取關鍵詞進行搜索 且顯示行號
命令:
cat test.txt | grep -nf test2.txt
輸出:
[root@localhost test]# cat test.txt
hnlinux
peida.cnblogs.com
ubuntu
ubuntu linux
redhat
Redhat
linuxmint
[root@localhost test]# cat test2.txt
linux
Redhat
[root@localhost test]# cat test.txt | grep -nf test2.txt
1:hnlinux
4:ubuntu linux
6:Redhat
7:linuxmint
[root@localhost test]#
說明:
輸出test.txt文件中含有從test2.txt文件中讀取出的關鍵詞的內(nèi)容行,并顯示每一行的行號
實例5:從文件中查找關鍵詞
命令:
grep 'linux' test.txt
輸出:
[root@localhost test]# grep 'linux' test.txt
hnlinux
ubuntu linux
linuxmint
[root@localhost test]# grep -n 'linux' test.txt
1:hnlinux
4:ubuntu linux
7:linuxmint
[root@localhost test]#
說明:
實例6:從多個文件中查找關鍵詞
命令:
grep 'linux' test.txt test2.txt
輸出:
[root@localhost test]# grep -n 'linux' test.txt test2.txt
test.txt:1:hnlinux
test.txt:4:ubuntu linux
test.txt:7:linuxmint
test2.txt:1:linux
[root@localhost test]# grep 'linux' test.txt test2.txt
test.txt:hnlinux
test.txt:ubuntu linux
test.txt:linuxmint
test2.txt:linux
[root@localhost test]#
說明:
多文件時,輸出查詢到的信息內(nèi)容行時,會把文件的命名在行最前面輸出并且加上":"作為標示符
實例7:grep不顯示本身進程
命令:
ps aux|grep [s]sh
ps aux | grep ssh | grep -v "grep"
輸出:
[root@localhost test]# ps aux|grep ssh
root 2720 0.0 0.0 62656 1212 ? Ss Nov02 0:00 /usr/sbin/sshd
root 16834 0.0 0.0 88088 3288 ? Ss 19:53 0:00 sshd: root@pts/0
root 16901 0.0 0.0 61180 764 pts/0 S+ 20:31 0:00 grep ssh
[root@localhost test]# ps aux|grep [s]sh]
[root@localhost test]# ps aux|grep [s]sh
root 2720 0.0 0.0 62656 1212 ? Ss Nov02 0:00 /usr/sbin/sshd
root 16834 0.0 0.0 88088 3288 ? Ss 19:53 0:00 sshd: root@pts/0
[root@localhost test]# ps aux | grep ssh | grep -v "grep"
root 2720 0.0 0.0 62656 1212 ? Ss Nov02 0:00 /usr/sbin/sshd
root 16834 0.0 0.0 88088 3288 ? Ss 19:53 0:00 sshd: root@pts/0
說明:
實例8:找出已u開頭的行內(nèi)容
命令:
cat test.txt |grep ^u
輸出:
[root@localhost test]# cat test.txt |grep ^u
ubuntu
ubuntu linux
[root@localhost test]#
說明:
實例9:輸出非u開頭的行內(nèi)容
命令:
cat test.txt |grep [u]
輸出:
[root@localhost test]# cat test.txt |grep [u]
hnlinux
peida.cnblogs.com
redhat
Redhat
linuxmint
[root@localhost test]#
說明:
實例10:輸出以hat結(jié)尾的行內(nèi)容
命令:
cat test.txt |grep hat$
輸出:
[root@localhost test]# cat test.txt |grep hat$
redhat
Redhat
[root@localhost test]#
說明:
實例11:輸出ip地址
命令:
ifconfig eth0|grep -E "([0-9]{1,3}\.){3}[0-9]"
輸出:
[root@localhost test]# ifconfig eth0|grep "[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}.[0-9]{1,3}"
inet addr:192.168.120.204 Bcast:192.168.120.255 Mask:255.255.255.0
[root@localhost test]# ifconfig eth0|grep -E "([0-9]{1,3}.){3}[0-9]"
inet addr:192.168.120.204 Bcast:192.168.120.255 Mask:255.255.255.0
[root@localhost test]#
說明:
實例12:顯示包含ed或者at字符的內(nèi)容行
命令:
cat test.txt |grep -E "ed|at"
輸出:
[root@localhost test]# cat test.txt |grep -E "peida|com"
peida.cnblogs.com
[root@localhost test]# cat test.txt |grep -E "ed|at"
redhat
Redhat
[root@localhost test]#
說明:
實例13:顯示當前目錄下面以.txt 結(jié)尾的文件中的所有包含每個字符串至少有7個連續(xù)小寫字符的字符串的行
命令:
grep '[a-z]{7}' *.txt
輸出:
[root@localhost test]# grep '[a-z]{7}' *.txt
test.txt:hnlinux
test.txt:peida.cnblogs.com
test.txt:linuxmint
[root@localhost test]#
實例14:日志文件過大,不好查看,我們要從中查看自己想要的內(nèi)容,或者得到同一類數(shù)據(jù),比如說沒有404日志信息的
命令:
grep '.' access1.log|grep -Ev '404' > access2.log
grep '.' access1.log|grep -Ev '(404|/photo/|/css/)' > access2.log
grep '.' access1.log|grep -E '404' > access2.log
輸出:
[root@localhost test]# grep “.”access1.log|grep -Ev “404” > access2.log
說明:上面3句命令前面兩句是在當前目錄下對access1.log文件進行查找,找到那些不包含404的行,把它們放到access2.log中,后面去掉’v’,即是把有404的行放入access2.log