一次線上內存泄漏的解決過程

內存泄漏這種問題是可遇不可求的經歷,終于有機會抓住了它,要好好的記錄下來。出現問題的是打成jar包的一個引擎程序

引擎邏輯

大致是生產者消費者模式的一個數據處理引擎

public class MainClass {
    public static void main(String[] args) {
        try {
            //定義 線程池、隊列、門閂
            ExecutorService service = Executors.newCachedThreadPool();
            BlockingQueue<JSONObject> queue = new LinkedBlockingQueue<JSONObject>(100);
            CountDownLatch latch = new CountDownLatch(10);
            //1個生產者
            Producer producer = new Producer(queue);
            service.execute(producer);
            //10個消費者,每個消費者加門閂,消費完成減一
            for (int i = 0; i < 10; i++) {
                service.submit(new Consumer(queue,latch));
            }

            service.shutdown();
            //主線程等待門閂,都完成后開始第二次循環
            try {
                latch.await();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            
        }catch (Exception e){
        }
        try {
            TimeUnit.SECONDS.sleep(10);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        System.out.println("循環一次結束,第二次開始調用");
        main(new String[]{});
    }
}

業務邏輯為生產者消費者啟動,用CountDownLatch來阻塞住主線程,等所有消費者生產者線程完成并結束后,main方法開始調用自己,開始第二次啟動,循環調用

這種情況下運行一段時間后會出現異常:

Caused by: java.lang.OutOfMemoryError: unable to create new native thread
    at java.lang.Thread.start0(Native Method)
    at java.lang.Thread.start(Thread.java:717)
    at java.util.concurrent.ThreadPoolExecutor.addWorker(ThreadPoolExecutor.java:957)
    at java.util.concurrent.ThreadPoolExecutor.execute(ThreadPoolExecutor.java:1367)
    at java.util.concurrent.AbstractExecutorService.submit(AbstractExecutorService.java:112)

針對OutOfMemoryError異常我們使用jdk自帶的工具jvisualvm來查看

jvisualvm使用

jvisualvm自從 JDK 6 Update 7 以后已經作為JDK 的一部分,位于 JDK 根目錄的 bin 文件夾下,無需安裝,直接運行即可

image.png

打開后左側是所有的進程,可以打開任意一個進行詳細信息查看
image.png

右側對應顯示詳細信息
image.png

分析程序崩潰時堆文件

程序運行時,設置參數

-Xms200m
-Xmx200m
-XX:+HeapDumpOnOutOfMemoryError
-XX:HeapDumpPath=d:/dump/

設置最大內存和指定OutOfMemoryError時存儲堆文件的位置

我們使用jvisualvm打開堆文件java_pid42132.hprof


image.png

占用內存最大的是Obeject[]和byte[],并沒有顯示具體是哪個類導致的內存問題,暫時無從下手。

猜想1:線程池的線程數過多導致

我們只能從程序邏輯來猜想這個問題了,由于程序多次回調,很有可能是線程池里的線程未及時關閉導致的,我們修改代碼來驗證

public class MainClass {
    //全局線程池
    static ExecutorService service = Executors.newCachedThreadPool();
    
    public static void main(String[] args) {
        try {
            //定義 線程池、隊列、門閂
            
            BlockingQueue<JSONObject> queue = new LinkedBlockingQueue<JSONObject>(100);
            CountDownLatch latch = new CountDownLatch(10);
            //1個生產者
            Producer producer = new Producer(queue);
            service.execute(producer);
            //10個消費者,每個消費者加門閂,消費完成減一
            for (int i = 0; i < 10; i++) {
                service.submit(new Consumer(queue,latch));
            }

            service.shutdown();
            //主線程等待門閂,都完成后開始第二次循環
            try {
                latch.await();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
            //輸出線程池狀態
            System.out.println(service.toString());
            
        }catch (Exception e){
        }
        try {
            TimeUnit.SECONDS.sleep(10);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        System.out.println("循環一次結束,第二次開始調用");
        main(new String[]{});
    }
}

定義全局的線程池變量,每次輸出線程池狀態【長度,活動線程數,完成線程數】

java.util.concurrent.ThreadPoolExecutor@720653c2[Running, pool size = 11, active threads = 0, queued tasks = 0, completed tasks = 11]
循環一次結束,第二次開始調用
java.util.concurrent.ThreadPoolExecutor@720653c2[Running, pool size = 11, active threads = 0, queued tasks = 0, completed tasks = 22]
循環一次結束,第二次開始調用
java.util.concurrent.ThreadPoolExecutor@720653c2[Running, pool size = 11, active threads = 0, queued tasks = 0, completed tasks = 33]
循環一次結束,第二次開始調用
java.util.concurrent.ThreadPoolExecutor@720653c2[Running, pool size = 11, active threads = 0, queued tasks = 0, completed tasks = 44]
循環一次結束,第二次開始調用
java.util.concurrent.ThreadPoolExecutor@720653c2[Running, pool size = 11, active threads = 0, queued tasks = 0, completed tasks = 55]
循環一次結束,第二次開始調用
java.util.concurrent.ThreadPoolExecutor@720653c2[Running, pool size = 11, active threads = 0, queued tasks = 0, completed tasks = 66]
循環一次結束,第二次開始調用

通過輸出可以看到:

存活線程數一直是0,當前線程池長度為pool size=11,也就是剛執行完的來不及釋放的1個生產者10個消費者線程,已完成線程數completed tasks=11,22,33,44,55,66... 依次增長。

排除了線程池帶來的內存溢出。

main方法無限回調導致的內存問題

為了驗證這個猜想,設計代碼如下

public class MainClass {
    public static void main(String[] args) {
        try {
            //定義 線程池、隊列、門閂
            ExecutorService service = Executors.newCachedThreadPool();
            BlockingQueue<JSONObject> queue = new LinkedBlockingQueue<JSONObject>(100);
            CountDownLatch latch = new CountDownLatch(10);
            //new 10個生產者
            for(int i=0;i<10;i++){
                Producer producer = new Producer(queue);
            }
        }catch (Exception e){
        }
        try {
            TimeUnit.SECONDS.sleep(2);
        } catch (InterruptedException e) {
            e.printStackTrace();
        }
        System.out.println("循環一次結束,第二次開始調用");
        main(new String[]{});
    }
}

無限的new對象,無限的遞歸

通過jvisualvm進行監控,如下圖


QQ圖片20180918152927.png

可以看到內存會周期性的進行回收并保持良好狀態,這個猜想也不正確。

client沒close()導致

最終通過代碼一塊塊的邏輯排除法得出結論:

是生產者和消費者中的連接Elasticsearch的Client使用完畢后,雖然線程關閉了,但是client沒有關閉導致的

通過jvisualvm也可以發現一些線索,我們使用jvisualvm打開堆文件java_pid42132.hprof

image.png

雙擊打開java.lang.Object[]可以查看它的組成
image.png

一級一級的跟下去會發現有elasticsearch——client的影子

最后

解決方法很簡單:線程結束時,關閉該線程使用的client客戶端

elasticServer.client.close();
System.out.println("consumer end!");
latch.countDown();

我們要注意的就是在數據庫連接的處理上要額外注意,一般情況下不會出問題,在頻繁的連接釋放和遞歸時,很有可能引起內存泄漏。

?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,505評論 6 533
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,556評論 3 418
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,463評論 0 376
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,009評論 1 312
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,778評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,218評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,281評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,436評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,969評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,795評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,993評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,537評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,229評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,659評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,917評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,687評論 3 392
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,990評論 2 374

推薦閱讀更多精彩內容

  • 本文是我自己在秋招復習時的讀書筆記,整理的知識點,也是為了防止忘記,尊重勞動成果,轉載注明出處哦!如果你也喜歡,那...
    波波波先森閱讀 11,290評論 4 56
  • Spring Cloud為開發人員提供了快速構建分布式系統中一些常見模式的工具(例如配置管理,服務發現,斷路器,智...
    卡卡羅2017閱讀 134,785評論 18 139
  • 廣袤無垠的撒哈拉有多少粒沙在風中掙扎翻滾,平凡的世界里就有多少只靈魂在塵世間愛恨情仇。佛說:阿彌佗佛,一切皆是因緣~
    清輝V閱讀 329評論 2 1
  • 天亮了,太陽升起,門外傳來遠遠的犬吠聲。 睜開眼,伸個懶腰,披上外套,飲下一杯冽的山泉水,和著一塊小餅。晨...
    聽歌的古董閱讀 259評論 0 0
  • 0918(day2) 書名:《贊賞的5種語言》 正文字數:720字 1.《學會傾聽,讓溝通更順暢》 里克.里德是一...
    蘋果Apple來了閱讀 268評論 0 0