非常實用的shell腳本枚舉

shell腳本是幫助程序員和系統管理員完成費時費力的枯燥工作的利器,是與計算機交互并管理文件和系統操作的有效方式。區區幾行代碼,就可以讓計算機接近按照你的意圖行事。

為大家整理了23個實例,通過23個實戰經典腳本實例,展示了shell腳本編程的實用技術和常見工具用法。大家只需根據自己的需求,將文中這些常見任務和可移植自動化腳本推廣應用到其他類似問題上,能解決那些三天兩頭碰上的麻煩事。

檢測兩臺服務器指定目錄下的文件一致性

#!/bin/bash
#####################################
#檢測兩臺服務器指定目錄下的文件一致性
#####################################
#通過對比兩臺服務器上文件的md5值,達到檢測一致性的目的
dir=/data/web
b_ip=192.168.88.10
#將指定目錄下的文件全部遍歷出來并作為md5sum命令的參數,進而得到所有文件的md5值,并寫入到指定文件中
find $dir -type f|xargs md5sum > /tmp/md5_a.txt
ssh $b_ip "find $dir -type f|xargs md5sum > /tmp/md5_b.txt"
scp $b_ip:/tmp/md5_b.txt /tmp
#將文件名作為遍歷對象進行一一比對
for f in `awk '{print 2} /tmp/md5_a.txt'`
do
#以a機器為標準,當b機器不存在遍歷對象中的文件時直接輸出不存在的結果
if grep -qw "$f" /tmp/md5_b.txt
then
md5_a=`grep -w "$f" /tmp/md5_a.txt|awk '{print 1}'`
md5_b=`grep -w "$f" /tmp/md5_b.txt|awk '{print 1}'`
#當文件存在時,如果md5值不一致則輸出文件改變的結果
if [ $md5_a != $md5_b ]
then
echo "$f changed."
fi
else
echo "$f deleted."
fi
done

定時清空文件內容,定時記錄文件大小

#!/bin/bash
################################################################
#每小時執行一次腳本(任務計劃),當時間為0點或12點時,將目標目錄下的所有文件內
#容清空,但不刪除文件,其他時間則只統計各個文件的大小,一個文件一行,輸出到以時#間和日期命名的文件中,需要考慮目標目錄下二級、三級等子目錄的文件
################################################################
logfile=/tmp/`date +%H-%F`.log
n=`date +%H`
if [ $n -eq 00 ] || [ $n -eq 12 ]
then
#通過for循環,以find命令作為遍歷條件,將目標目錄下的所有文件進行遍歷并做相應操作
for i in `find /data/log/ -type f`
do
true > $i
done
else
for i in `find /data/log/ -type f`
do
du -sh $i >> $logfile
done
fi

檢測網卡流量,并按規定格式記錄在日志中

#!/bin/bash
#######################################################
#檢測網卡流量,并按規定格式記錄在日志中
#規定一分鐘記錄一次
#日志格式如下所示:
#2019-08-12 20:40
#ens33 input: 1234bps
#ens33 output: 1235bps
######################################################3
while :
do
#設置語言為英文,保障輸出結果是英文,否則會出現bug
LANG=en
logfile=/tmp/`date +%d`.log
#將下面執行的命令結果輸出重定向到logfile日志中
exec >> $logfile
date +"%F %H:%M"
#sar命令統計的流量單位為kb/s,日志格式為bps,因此要*1000*8
sar -n DEV 1 59|grep Average|grep ens33|awk '{print $2,"\t","input:","\t",$5*1000*8,"bps","\n",$2,"\t","output:","\t",$6*1000*8,"bps"}'
echo "####################"
#因為執行sar命令需要59秒,因此不需要sleep
done

計算文檔每行出現的數字個數,并計算整個文檔的數字總數

#!/bin/bash
#########################################################
#計算文檔每行出現的數字個數,并計算整個文檔的數字總數
########################################################
#使用awk只輸出文檔行數(截取第一段)
n=`wc -l a.txt|awk '{print $1}'`
sum=0
#文檔中每一行可能存在空格,因此不能直接用文檔內容進行遍歷
for i in `seq 1 $n`
do
#輸出的行用變量表示時,需要用雙引號
line=`sed -n "$i"p a.txt`
#wc -L選項,統計最長行的長度
n_n=`echo $line|sed s'/[^0-9]//'g|wc -L`
echo $n_n
sum=$[$sum+$n_n]
done
echo "sum:$sum"

殺死所有腳本

#!/bin/bash
################################################################
#有一些腳本加入到了cron之中,存在腳本尚未運行完畢又有新任務需要執行的情況,
#導致系統負載升高,因此可通過編寫腳本,篩選出影響負載的進程一次性全部殺死。
################################################################
ps aux|grep 指定進程名|grep -v grep|awk '{print $2}'|xargs kill -9

從FTP服務器下載文件

#!/bin/bash
if [ $# -ne 1 ]; then
    echo "Usage: $0 filename"
fi
dir=$(dirname $1)
file=$(basename $1)
ftp -n -v << EOF   # -n 自動登錄
open 192.168.1.10  # ftp服務器
user admin password
binary   # 設置ftp傳輸模式為二進制,避免MD5值不同或.tar.gz壓縮包格式錯誤
cd $dir
get "$file"
EOF

連續輸入5個100以內的數字,統計和、最小和最大

#!/bin/bash
COUNT=1
SUM=0
MIN=0
MAX=100
while [ $COUNT -le 5 ]; do
    read -p "請輸入1-10個整數:" INT
    if [[ ! $INT =~ ^[0-9]+$ ]]; then
        echo "輸入必須是整數!"
        exit 1
    elif [[ $INT -gt 100 ]]; then
        echo "輸入必須是100以內!"
        exit 1
    fi
    SUM=$(($SUM+$INT))
    [ $MIN -lt $INT ] && MIN=$INT
    [ $MAX -gt $INT ] && MAX=$INT
    let COUNT++
done
echo "SUM: $SUM"
echo "MIN: $MIN"
echo "MAX: $MAX"

用戶猜數字

#!/bin/bash  # 腳本生成一個 100 以內的隨機數,提示用戶猜數字,根據用戶的輸入,提示用戶猜對了,# 猜小了或猜大了,直至用戶猜對腳本結束。# RANDOM 為系統自帶的系統變量,值為 0‐32767的隨機數# 使用取余算法將隨機數變為 1‐100 的隨機數num=$[RANDOM%100+1]echo "$num" # 使用 read 提示用戶猜數字# 使用 if 判斷用戶猜數字的大小關系:‐eq(等于),‐ne(不等于),‐gt(大于),‐ge(大于等于),# ‐lt(小于),‐le(小于等于)while :do     read -p "計算機生成了一個 1‐100 的隨機數,你猜: " cai    if [ $cai -eq $num ]    then        echo "恭喜,猜對了"           exit        elif [ $cai -gt $num ]        then            echo "Oops,猜大了"         else            echo "Oops,猜小了"     fidone

監測Nginx訪問日志502情況,并做相應動作

假設服務器環境為lnmp,近期訪問經常出現502現象,且502錯誤在重啟php-fpm服務后消失,因此需要編寫監控腳本,一旦出現502,則自動重啟php-fpm服務。

#場景:#1.訪問日志文件的路徑:/data/log/access.log#2.腳本死循環,每10秒檢測一次,10秒的日志條數為300條,出現502的比例不低于10%(30條)則需要重啟php-fpm服務#3.重啟命令為:/etc/init.d/php-fpm restart#!/bin/bash############################################################監測Nginx訪問日志502情況,并做相應動作###########################################################log=/data/log/access.logN=30 #設定閾值while :do #查看訪問日志的最新300條,并統計502的次數    err=`tail -n 300 $log |grep -c '502" '` if [ $err -ge $N ] then /etc/init.d/php-fpm restart 2> /dev/null #設定60s延遲防止腳本bug導致無限重啟php-fpm服務     sleep 60 fi sleep 10done

將結果分別賦值給變量

應用場景:希望將執行結果或者位置參數賦值給變量,以便后續使用。方法1:for i in $(echo "4 5 6"); do   eval a$i=$idoneecho $a4 $a5 $a6方法2:將位置參數192.168.1.1{1,2}拆分為到每個變量num=0for i in $(eval echo $*);do   #eval將{1,2}分解為1 2   let num+=1   eval node${num}="$i"doneecho $node1 $node2 $node3# bash a.sh 192.168.1.1{1,2}192.168.1.11 192.168.1.12方法3:arr=(4 5 6)INDEX1=$(echo ${arr[0]})INDEX2=$(echo ${arr[1]})INDEX3=$(echo ${arr[2]})

批量修改文件名

示例:# touch article_{1..3}.html# lsarticle_1.html  article_2.html  article_3.html目的:把article改為bbs方法1:for file in $(ls *html); do    mv $file bbs_${file#*_}    # mv $file $(echo $file |sed -r 's/.*(_.*)/bbs\1/')    # mv $file $(echo $file |echo bbs_$(cut -d_ -f2)done方法2:for file in $(find . -maxdepth 1 -name "*html"); do     mv $file bbs_${file#*_}done方法3:# rename article bbs *.html

把一個文檔前五行中包含字母的行刪掉,同時刪除6到10行包含的所有字母

1)準備測試文件,文件名為2.txt

第1行1234567不包含字母第2行56789BBBBBB第3行67890CCCCCCCC第4行78asdfDDDDDDDDD第5行123456EEEEEEEE第6行1234567ASDF第7行56789ASDF第8行67890ASDF第9行78asdfADSF第10行123456AAAA第11行67890ASDF第12行78asdfADSF第13行123456AAAA

2)腳本如下:

#!/bin/bash###############################################################把一個文檔前五行中包含字母的行刪掉,同時刪除6到10行包含的所有字母##############################################################sed -n '1,5'p 2.txt |sed '/[a-zA-Z]/'dsed -n '6,10'p 2.txt |sed s'/[a-zA-Z]//'gsed -n '11,$'p 2.txt#最終結果只是在屏幕上打印結果,如果想直接更改文件,可將輸出結果寫入臨時文件中,再替換2.txt或者使用-i選項

統計當前目錄中以.html結尾的文件總大

方法1:# find . -name "*.html" -exec du -k {} \; |awk '{sum+=$1}END{print sum}'方法2:for size in $(ls -l *.html |awk '{print $5}'); do    sum=$(($sum+$size))doneecho $sum

掃描主機端口狀態

#!/bin/bashHOST=$1PORT="22 25 80 8080"for PORT in $PORT; do    if echo &>/dev/null > /dev/tcp/$HOST/$PORT; then        echo "$PORT open"    else        echo "$PORT close"    fidone

用shell打印示例語句中字母數小于6的單詞

#示例語句:#Bash also interprets a number of multi-character options.#!/bin/bash###############################################################shell打印示例語句中字母數小于6的單詞##############################################################for s in Bash also interprets a number of multi-character options.do n=`echo $s|wc -c` if [ $n -lt 6 ] then echo $s fidone

輸入數字運行相應命令

#!/bin/bash
##############################################################
#輸入數字運行相應命令
##############################################################
echo "*cmd menu* 1-date 2-ls 3-who 4-pwd 0-exit "
while :
do
#捕獲用戶鍵入值
 read -p "please input number :" n
 n1=`echo $n|sed s'/[0-9]//'g`
#空輸入檢測 
 if [ -z "$n" ]
 then
 continue
 fi
#非數字輸入檢測 
 if [ -n "$n1" ]
 then
 exit 0
 fi
 break
done
case $n in
 1)
 date
 ;;
 2)
 ls
 ;;
 3)
 who
 ;;
 4)
 pwd
 ;;
 0)
 break
 ;;
    #輸入數字非1-4的提示
 *)
 echo "please input number is [1-4]"
esac

Expect實現SSH免交互執行命令

Expect是一個自動交互式應用程序的工具,如telnet,ftp,passwd等。

需先安裝expect軟件包。

方法1:EOF標準輸出作為expect標準輸入

#!/bin/bash
USER=root
PASS=123.com
IP=192.168.1.120
expect << EOF
set timeout 30
spawn ssh $USER@$IP   
expect {
    "(yes/no)" {send "yes\r"; exp_continue}
    "password:" {send "$PASS\r"}
}
expect "$USER@*"  {send "$1\r"}
expect "$USER@*"  {send "exit\r"}
expect eof
EOF
方法2:

#!/bin/bash
USER=root
PASS=123.com
IP=192.168.1.120
expect -c "
    spawn ssh $USER@$IP
    expect {
        \"(yes/no)\" {send \"yes\r\"; exp_continue}
        \"password:\" {send \"$PASS\r\"; exp_continue}
        \"$USER@*\" {send \"df -h\r exit\r\"; exp_continue}
    }"
方法3:將expect腳本獨立出來

登錄腳本:

# cat login.exp
#!/usr/bin/expect
set ip [lindex $argv 0]
set user [lindex $argv 1]
set passwd [lindex $argv 2]
set cmd [lindex $argv 3]
if { $argc != 4 } {
puts "Usage: expect login.exp ip user passwd"
exit 1
}
set timeout 30
spawn ssh $user@$ip
expect {
    "(yes/no)" {send "yes\r"; exp_continue}
    "password:" {send "$passwd\r"}
}
expect "$user@*"  {send "$cmd\r"}
expect "$user@*"  {send "exit\r"}
expect eof
執行命令腳本:寫個循環可以批量操作多臺服務器

#!/bin/bash
HOST_INFO=user_info.txt
for ip in $(awk '{print $1}' $HOST_INFO)
do
    user=$(awk -v I="$ip" 'I==$1{print $2}' $HOST_INFO)
    pass=$(awk -v I="$ip" 'I==$1{print $3}' $HOST_INFO)
    expect login.exp $ip $user $pass $1
done
Linux主機SSH連接信息:

# cat user_info.txt
192.168.1.120 root 123456

創建10個用戶,并分別設置密碼,密碼要求10位且包含大小寫字母以及數字,最后需要把每個用戶的密碼存在指定文件中

#!/bin/bash
##############################################################
#創建10個用戶,并分別設置密碼,密碼要求10位且包含大小寫字母以及數字
#最后需要把每個用戶的密碼存在指定文件中
#前提條件:安裝mkpasswd命令
##############################################################
#生成10個用戶的序列(00-09)
for u in `seq -w 0 09`
do
 #創建用戶
 useradd user_$u
 #生成密碼
 p=`mkpasswd -s 0 -l 10`
 #從標準輸入中讀取密碼進行修改(不安全)
 echo $p|passwd --stdin user_$u
 #常規修改密碼
 echo -e "$p\n$p"|passwd user_$u
 #將創建的用戶及對應的密碼記錄到日志文件中
 echo "user_$u $p" >> /tmp/userpassword
done

監控httpd的進程數,根據監控情況做相應處理

#!/bin/bash
###############################################################################################################################
#需求:
#1.每隔10s監控httpd的進程數,若進程數大于等于500,則自動重啟Apache服務,并檢測服務是否重啟成功
#2.若未成功則需要再次啟動,若重啟5次依舊沒有成功,則向管理員發送告警郵件,并退出檢測
#3.如果啟動成功,則等待1分鐘后再次檢測httpd進程數,若進程數正常,則恢復正常檢測(10s一次),否則放棄重啟并向管理員發送告警郵件,并退出檢測
###############################################################################################################################
#計數器函數
check_service()
{
 j=0
 for i in `seq 1 5` 
 do
 #重啟Apache的命令
 /usr/local/apache2/bin/apachectl restart 2> /var/log/httpderr.log
    #判斷服務是否重啟成功
 if [ $? -eq 0 ]
 then
 break
 else
 j=$[$j+1]
 fi
    #判斷服務是否已嘗試重啟5次
 if [ $j -eq 5 ]
 then
 mail.py
 exit
 fi
 done 
}
while :
do
 n=`pgrep -l httpd|wc -l`
 #判斷httpd服務進程數是否超過500
 if [ $n -gt 500 ]
 then
 /usr/local/apache2/bin/apachectl restart
 if [ $? -ne 0 ]
 then
 check_service
 else
 sleep 60
 n2=`pgrep -l httpd|wc -l`
 #判斷重啟后是否依舊超過500
             if [ $n2 -gt 500 ]
 then 
 mail.py
 exit
 fi
 fi
 fi
 #每隔10s檢測一次
 sleep 10
done

批量修改服務器用戶密碼

Linux主機SSH連接信息:舊密碼

# cat old_pass.txt 
192.168.18.217  root    123456     22
192.168.18.218  root    123456     22
內容格式:IP User Password Port

SSH遠程修改密碼腳本:新密碼隨機生成
https://www.linuxprobe.com/books
#!/bin/bash
OLD_INFO=old_pass.txt
NEW_INFO=new_pass.txt
for IP in $(awk '/^[^#]/{print $1}' $OLD_INFO); do
    USER=$(awk -v I=$IP 'I==$1{print $2}' $OLD_INFO)
    PASS=$(awk -v I=$IP 'I==$1{print $3}' $OLD_INFO)
    PORT=$(awk -v I=$IP 'I==$1{print $4}' $OLD_INFO)
    NEW_PASS=$(mkpasswd -l 8)  # 隨機密碼
    echo "$IP   $USER   $NEW_PASS   $PORT" >> $NEW_INFO
    expect -c "
    spawn ssh -p$PORT $USER@$IP
    set timeout 2
    expect {
        \"(yes/no)\" {send \"yes\r\";exp_continue}
        \"password:\" {send \"$PASS\r\";exp_continue}
        \"$USER@*\" {send \"echo \'$NEW_PASS\' |passwd --stdin $USER\r exit\r\";exp_continue}
    }"
done
生成新密碼文件:

# cat new_pass.txt 
192.168.18.217  root    n8wX3mU%      22
192.168.18.218  root    c87;ZnnL      22

iptables自動屏蔽訪問網站頻繁的IP

場景:惡意訪問,安全防范

1)屏蔽每分鐘訪問超過200的IP

方法1:根據訪問日志(Nginx為例)

#!/bin/bash
DATE=$(date +%d/%b/%Y:%H:%M)
ABNORMAL_IP=$(tail -n5000 access.log |grep $DATE |awk '{a[$1]++}END{for(i in a)if(a[i]>100)print i}')
#先tail防止文件過大,讀取慢,數字可調整每分鐘最大的訪問量。awk不能直接過濾日志,因為包含特殊字符。
for IP in $ABNORMAL_IP; do
    if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
        iptables -I INPUT -s $IP -j DROP
    fi
done
方法2:通過TCP建立的連接

#!/bin/bash
ABNORMAL_IP=$(netstat -an |awk '$4~/:80$/ && $6~/ESTABLISHED/{gsub(/:[0-9]+/,"",$5);{a[$5]++}}END{for(i in a)if(a[i]>100)print i}')
#gsub是將第五列(客戶端IP)的冒號和端口去掉
for IP in $ABNORMAL_IP; do
    if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
        iptables -I INPUT -s $IP -j DROP
    fi
done

2)屏蔽每分鐘SSH嘗試登錄超過10次的IP

方法1:通過lastb獲取登錄狀態:

#!/bin/bash
DATE=$(date +"%a %b %e %H:%M") #星期月天時分  %e單數字時顯示7,而%d顯示07
ABNORMAL_IP=$(lastb |grep "$DATE" |awk '{a[$3]++}END{for(i in a)if(a[i]>10)print i}')
for IP in $ABNORMAL_IP; do
    if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
        iptables -I INPUT -s $IP -j DROP
    fi
done
方法2:通過日志獲取登錄狀態

#!/bin/bash
DATE=$(date +"%b %d %H")
ABNORMAL_IP="$(tail -n10000 /var/log/auth.log |grep "$DATE" |awk '/Failed/{a[$(NF-3)]++}END{for(i in a)if(a[i]>5)print i}')"
for IP in $ABNORMAL_IP; do
    if [ $(iptables -vnL |grep -c "$IP") -eq 0 ]; then
        iptables -A INPUT -s $IP -j DROP
        echo "$(date +"%F %T") - iptables -A INPUT -s $IP -j DROP" >>~/ssh-login-limit.log
    fi
done

根據web訪問日志,封禁請求量異常的IP,如IP在半小時后恢復正常,則解除封禁

#!/bin/bash
####################################################################################
#根據web訪問日志,封禁請求量異常的IP,如IP在半小時后恢復正常,則解除封禁
####################################################################################
logfile=/data/log/access.log
#顯示一分鐘前的小時和分鐘
d1=`date -d "-1 minute" +%H%M`
d2=`date +%M`
ipt=/sbin/iptables
ips=/tmp/ips.txt
block()
{
 #將一分鐘前的日志全部過濾出來并提取IP以及統計訪問次數
 grep '$d1:' $logfile|awk '{print $1}'|sort -n|uniq -c|sort -n > $ips
 #利用for循環將次數超過100的IP依次遍歷出來并予以封禁
 for i in `awk '$1>100 {print $2}' $ips`
 do
 $ipt -I INPUT -p tcp --dport 80 -s $i -j REJECT
 echo "`date +%F-%T` $i" >> /tmp/badip.log
 done
}
unblock()
{
 #將封禁后所產生的pkts數量小于10的IP依次遍歷予以解封
 for a in `$ipt -nvL INPUT --line-numbers |grep '0.0.0.0/0'|awk '$2<10 {print $1}'|sort -nr`
 do 
 $ipt -D INPUT $a
 done
 $ipt -Z
}
#當時間在00分以及30分時執行解封函數
if [ $d2 -eq "00" ] || [ $d2 -eq "30" ]
 then
 #要先解再封,因為剛剛封禁時產生的pkts數量很少
 unblock
 block
 else
 block
fi

判斷用戶輸入的是否為IP地址

方法1:

#!/bin/bash
function check_ip(){
    IP=$1
    VALID_CHECK=$(echo $IP|awk -F. '$1< =255&&$2<=255&&$3<=255&&$4<=255{print "yes"}')
    if echo $IP|grep -E "^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$">/dev/null; then
        if [ $VALID_CHECK == "yes" ]; then
            echo "$IP available."
        else
            echo "$IP not available!"
        fi
    else
        echo "Format error!"
    fi
}
check_ip 192.168.1.1
check_ip 256.1.1.1
方法2:

#!/bin/bash
function check_ip(){
    IP=$1
    if [[ $IP =~ ^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$ ]]; then
        FIELD1=$(echo $IP|cut -d. -f1)
        FIELD2=$(echo $IP|cut -d. -f2)
        FIELD3=$(echo $IP|cut -d. -f3)
        FIELD4=$(echo $IP|cut -d. -f4)
        if [ $FIELD1 -le 255 -a $FIELD2 -le 255 -a $FIELD3 -le 255 -a $FIELD4 -le 255 ]; then
            echo "$IP available."
        else
            echo "$IP not available!"
        fi
    else
        echo "Format error!"
    fi
}
check_ip 192.168.1.1
check_ip 256.1.1.1
增加版:

加個死循環,如果IP可用就退出,不可用提示繼續輸入,并使用awk判斷。

#!/bin/bash
function check_ip(){
    local IP=$1
    VALID_CHECK=$(echo $IP|awk -F. '$1< =255&&$2<=255&&$3<=255&&$4<=255{print "yes"}')
    if echo $IP|grep -E "^[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}\.[0-9]{1,3}$" >/dev/null; then
        if [ $VALID_CHECK == "yes" ]; then
            return 0
        else
            echo "$IP not available!"
            return 1
        fi
    else
        echo "Format error! Please input again."
        return 1
    fi
}
while true; do
    read -p "Please enter IP: " IP
    check_ip $IP
    [ $? -eq 0 ] && break || continue
done
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。

推薦閱讀更多精彩內容