接口性能測試+調優+性能指標

前言

在對一個web進行性能測試過程中,需要開發者掌握一些概念,例如性能測試,到底要測試什么?常見的測試指標有哪些?要怎么做調優?
這里分享一個案例。

案例

有一個接口,需要對上傳文件進行分析,流程是上傳一個zip文件,解壓后進行校驗,分析處理后,對文件進行簽名,同時返回前也會驗證簽名一次,再進行zip壓縮輸出,返回到平臺,有幾個重要參數,例如,文件摘要值、對文件操作的算法。

zip操作簡圖

初步解析

這個案例看完后,從開發的角度上看,我們可能會思考,哪一些步驟會出現哪一些瓶頸,哪一個步驟需要采用什么角度來進行優化?
1)簽名所用到的算法,對算法調優,或者降低安全性選用低運算的算法
2)上傳大文件與下載大文件的網絡傳輸,與本地文件多次讀取的處理
3)多文件下,考慮zip的壓縮與解壓的調優處理
4)不考慮立即同步,是否可以采用異步調用的方式
5)web應用,tomcat容器對上傳文件存放在臨時文件,考慮減少IO讀寫
6)有哪些可以采用緩存的方式
7)JVM調優、有那些對象不需要每次都加載、處理...

簽名算法

沒整理好,待補充

網絡傳輸

沒整理好,待補充

zip的壓縮與解壓

經過壓力測試,通過阿里的arthur工具包,發現在壓縮與解壓過程,耗時不遜于文件上傳下載。
這里采用了not buffer copy、buffer copy、nio copy、nio mapped copy、nio pip copy這幾種方式來對比壓縮過程,文件流讀取


zip壓縮策略

代碼遲點更新到github,待補充,各位看官稍安勿躁

異步調用

接口返回,就不采取同步了,而是提供一個返回的調用接口,執行完返回到這個回調接口,這種方式可以大大提升文件的并發吞吐量。
代碼遲點更新到github,待補充,各位看官稍安勿躁

臨時文件

考慮是web應用+內存,文件讀取遠遠沒那么簡單,因為不可能完全讓內存去直接對文件操作,所以需要將zip臨時存放在服務器上,而不是內存上。
同時如果是tomcat,還會有臨時目錄處理上傳文件,從接口上拿到的數據,并不是請求的數據,而是從tomcat臨時文件中再一次獲取的數據。
所以這里有居多的IO操作
1)tomcat從獲取請求數據在臨時文件夾(地址:tomcat.tmp.path);
2)接口獲取臨時文件位置的數據,存放在配置上指定的文件夾(地址:config.file.path);
3)解壓文件,需要將這些files存放在又一個臨時文件夾(地址:unzip.files.path);
4)對這一個個文件進行一次頁面的簽名,防止文件篡改,簽完名,同時驗證簽名值存放臨時文件夾(地址:sign.files.path);
5)接著通過unzip對簽名文件進行壓縮到一個臨時文件夾(地址:sign.zip.path);
6)接口讀取該地址返回。

需要改造的方向:
1)將tomcat默認的臨時文件夾存放,通過springboot的配置改為制定配置的位置
如果是用springboot2.x.x,那么配置server.tomcat.basedir就行了
2)考慮響應式編程,對這個邏輯進行重新設計與重構,即解壓一個文件,就立馬消費(進行簽名+驗簽),接著在準備壓縮,一套流程走一起
... ...
沒整理好,待補充

  1. 從性能測試的角度上看,需要測試什么呢?吞吐量、一次請求的響應時間、并發用戶數、還有資源使用率,其中資源使用率,例如有CPU的使用情況(算法處理與常規運算),內存使用率(保證足夠大的空間能夠對單個文件進行處理),磁盤IO的處理(文件讀取與寫入)

資源使用命令

介紹完以上的一些調優方案,這里介紹一些常用的常見的測試指標,來查看系統資源的命令(Linux)

CPU占用率

vmstat 3
# 查看cpu最后一項,記錄us、sy、id的數據值
# us :用戶進程消耗的CPU時間百分比
# sy : 內核進程消耗CPU時間百分比
# id : CPU處在空閑狀態的時間百分比
# us+sy參考值為80%,如果大于80%,說明可能存在CPU資源不足的情況
# 綜上所述,CPU性能評估中重點注意r、us、sy和id列的值。
vmstat查看CPU占用率

或者采用top命令,可以觀察%CPU選項,輸入數字1可進行排序

top查看CPU占用率

內存使用率

top
# 控制臺上實時監控,查看Mem中從測試開始到測試各個階段使用的內存有多大,MEM占比有多少,這里可以輸入字母m來切換顯示模式

free
# 不會實時監控,只測試一次
top查看內存使用率
free查看內存使用率

網絡I/O

# eno1 為使用的端口
dstat -t -clmnsyr --tcp --net-packets -N eno1

dstat 查看網絡IO變化

磁盤I/O

vmstat 3
# bi : 從塊設備讀入數據的總量,即讀磁盤,單位kB/s
# bo : 寫入到塊設備的數據總量,即寫磁盤,單位kB/s
vmstat 查看磁盤IO變化

使用iostat -d -x -k 1 2獲取磁盤IO的數據變化情況

iostat 查看磁盤IO變化

未完待續,持續更新


性能測試工具

JMX的使用

配置JAVA或者是web容器里的JAVA_OPTS類似的參數,指定JMX的

Jstat的使用

Jmeter

可視化zabbix

jmeter雖然也可以看,但是效果不佳


可視化zabbix
最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,565評論 6 539
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 99,115評論 3 423
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 177,577評論 0 382
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,514評論 1 316
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 72,234評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,621評論 1 326
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,641評論 3 444
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,822評論 0 289
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 49,380評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 41,128評論 3 356
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 43,319評論 1 371
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,879評論 5 362
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,548評論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,970評論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,229評論 1 291
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 52,048評論 3 397
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 48,285評論 2 376