深入剖析ThreadPool的運(yùn)行原理

線程在執(zhí)行任務(wù)時(shí),正常的情況是這樣的:

Thread  t=new Thread(new  Runnable() {          
            @Override
            public void run() {
                // TODO Auto-generated method stub  
            }
        });
        
        t.start();
        

Thread 在初始化的時(shí)候傳入一個(gè)Runnable,以后就沒有機(jī)會(huì)再傳入一個(gè)Runable了。那么,woker作為一個(gè)已經(jīng)啟動(dòng)的線程。是如何不斷獲取Runnable的呢?
這個(gè)時(shí)候可以使用一個(gè)包裝器,將線程包裝起來,在Run方法內(nèi)部獲取任務(wù)。

public final class Worker implements Runnable {
    Thread thread = null;
    Runnable task;
    private BlockingQueue<Runnable> queues;
    public Worker(Runnable task, BlockingQueue<Runnable> queues) {
        this.thread = new Thread(this);
        this.task = task;
        this.queues = queues;
    }
    public void run() {
        if (task != null) {
            task.run();
        } 
            try {
                while (true) {
                    task = queues.take();
                    if (task != null) {
                        task.run();
                    }
                }
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
    public void start() {
        this.thread.start();
    }
}

public class Main {
    public static void main(String[] args) {
        BlockingQueue<Runnable> queues=new ArrayBlockingQueue<Runnable>(100);
        Worker  worker=new Worker(new Runnable() {
            public void run() {
                System.out.println("hello!!! ");
                try {
                    Thread.currentThread().sleep(3000);
                } catch (InterruptedException e) {
                    e.printStackTrace();
                }           
            }
        }, queues);
        worker.start();
        for(int i=0;i<100;i++){
            queues.offer(new Runnable() {
                public void run() {
                    System.out.println("hello!!! ");
                    try {
                        Thread.currentThread().sleep(3000);
                    } catch (InterruptedException e) {
                        e.printStackTrace();
                    }
                }
            });
        }
    }

}

這樣我們就簡單地實(shí)現(xiàn)了一個(gè)“線程池”(可以將這個(gè)“線程池”改造成官方的模式,不過可以自己嘗試一下)。ThreadPool的這種實(shí)現(xiàn)模式是并發(fā)編程中經(jīng)典的Cyclic Work Distribution模式。
??那么,這種實(shí)現(xiàn)的線程池性能如何呢?
??由于其任務(wù)隊(duì)列使用的是阻塞隊(duì)列,在隊(duì)列內(nèi)部是自旋的。Reeteenlok是改進(jìn)的CLH隊(duì)列。自旋鎖會(huì)耗費(fèi)一定CPU的資源,在擁有大量任務(wù)執(zhí)行下的情況下比較有效。而且,線程池中的線程并沒有睡眠,而是進(jìn)入了自旋狀態(tài)。

CPU的線程與關(guān)系

如果是不支持超線程的CPU,在同一時(shí)刻的確只能處理2個(gè)線程,但是并不意味著雙核的CPU只能處理兩個(gè)線程,它可以通過切換上下文來執(zhí)行多個(gè)線程。比如我只有一個(gè)大腦,但是我要處理5個(gè)人提交的任務(wù),我可以處理完A的事情后,把事情的中間結(jié)果保存下,然后再處理B的,然后再讀取A的中間結(jié)果,處理A的事情。

JDK中的線程池實(shí)現(xiàn)分析

Woker自身繼承了Runnable,并對(duì)Thread做了一個(gè)包裝。Woker代碼如下所示:

private final class Worker
        extends AbstractQueuedSynchronizer
        implements Runnable
    {

        private static final long serialVersionUID = 6138294804551838833L;

    
        Runnable firstTask;
   
        volatile long completedTasks;

 
        Worker(Runnable firstTask) {
            setState(-1); // inhibit interrupts until runWorker
            this.firstTask = firstTask;
            this.thread = getThreadFactory().newThread(this);
        }
        public void run() {
            runWorker(this);
        }
        protected boolean isHeldExclusively() {
            return getState() != 0;
        }

        protected boolean tryAcquire(int unused) {
            if (compareAndSetState(0, 1)) {
                setExclusiveOwnerThread(Thread.currentThread());
                return true;
            }
            return false;
        }

        protected boolean tryRelease(int unused) {
            setExclusiveOwnerThread(null);
            setState(0);
            return true;
        }

        public void lock()        { acquire(1); }
        public boolean tryLock()  { return tryAcquire(1); }
        public void unlock()      { release(1); }
        public boolean isLocked() { return isHeldExclusively(); }

        void interruptIfStarted() {
            Thread t;
            if (getState() >= 0 && (t = thread) != null && !t.isInterrupted()) {
                try {
                    t.interrupt();
                } catch (SecurityException ignore) {
                }
            }
        }
    }

execute(Runnable command)方法內(nèi)部是這樣的:

public void execute(Runnable command) {
       if (command == null)
           throw new NullPointerException();
     
       int c = ctl.get();
       if (workerCountOf(c) < corePoolSize) {
           if (addWorker(command, true))
               return;
           c = ctl.get();
       }
       if (isRunning(c) && workQueue.offer(command)) {
           int recheck = ctl.get();
           if (! isRunning(recheck) && remove(command))
               reject(command);
           else if (workerCountOf(recheck) == 0)
               addWorker(null, false);
       }
       else if (!addWorker(command, false))
           reject(command);
   }

ctl一個(gè)合并類型的值。將當(dāng)前線程數(shù)和線程池狀態(tài)通過數(shù)學(xué)運(yùn)算合并到了一個(gè)值。具體是如何合并的可以參看一下源碼,這里就不敘述了。繼續(xù)向下走:

if (workerCountOf(c) < corePoolSize) {
            if (addWorker(command, true))
                return;
            c = ctl.get();
        }

可以看到,如果當(dāng)前線程數(shù)量小于了核心線程數(shù)量corePoolSize,就直接增加線程處理任務(wù)。與隊(duì)列沒有關(guān)系。但是緊接著又檢查了一遍狀態(tài),因?yàn)樵谶@個(gè)過程中,別的線程也可能在添加任務(wù)。繼續(xù)向下走:


  if (isRunning(c) && workQueue.offer(command)) {
            int recheck = ctl.get();
            if (! isRunning(recheck) && remove(command))
                reject(command);
            else if (workerCountOf(recheck) == 0)
                addWorker(null, false);
        }
        
        

可以看到如果線程池是運(yùn)行態(tài)的,就把線程添加到任務(wù)隊(duì)列。workQueue是構(gòu)造函數(shù)傳遞過來的,可以是有界隊(duì)列,也可以是無界隊(duì)列。可以看出來,隊(duì)列如果是無界的,直接往隊(duì)列里面添加任務(wù),這個(gè)時(shí)候,線程池中的線程也不會(huì)增加,一直會(huì)等于核心線程數(shù)。
??如果隊(duì)列是有界的,就嘗試直接新增線程處理任務(wù),如果添加任務(wù)失敗,就調(diào)用reject方法來處理添加失敗的任務(wù):

 else if (!addWorker(command, false))
            reject(command);

來看看addWorker是如何實(shí)現(xiàn)的,邏輯流程已經(jīng)直接在注釋中說明了。

private boolean addWorker(Runnable firstTask, boolean core) {
        retry:
        for (;;) {
            int c = ctl.get();
            int rs = runStateOf(c);
            //如果狀態(tài)大于SHUTDOWN,不再接受新的任務(wù),直接返回
            if (rs >= SHUTDOWN &&
                ! (rs == SHUTDOWN &&
                   firstTask == null &&
                   ! workQueue.isEmpty()))
                return false;

/**根據(jù)core來判斷,如果當(dāng)前線程數(shù)量大于corePoolSize或者最大線程數(shù),直接返回。添加任務(wù)失敗。
**如果隊(duì)列是有界的或者任務(wù)添加到隊(duì)列失敗(參數(shù)core是false),那么就會(huì)新開一個(gè)線程處理業(yè)務(wù),但如果線程已經(jīng)大于了maximumPoolSize,就會(huì)出現(xiàn)添加失敗,返回false。
*/

            for (;;) {
                int wc = workerCountOf(c);
                if (wc >= CAPACITY ||
                    wc >= (core ? corePoolSize : maximumPoolSize))
                    return false;

                if (compareAndIncrementWorkerCount(c))
                    break retry;
                c = ctl.get();  // Re-read ctl
                if (runStateOf(c) != rs)
                    continue retry;
                // else CAS failed due to workerCount change; retry inner loop
            }
        }

        boolean workerStarted = false;
        boolean workerAdded = false;
        Worker w = null;
        try {
            w = new Worker(firstTask);
            final Thread t = w.thread;
            if (t != null) {
                final ReentrantLock mainLock = this.mainLock;
                mainLock.lock();
                try {
                    // Recheck while holding lock.
                    // Back out on ThreadFactory failure or if
                    // shut down before lock acquired.
                    int rs = runStateOf(ctl.get());

                    if (rs < SHUTDOWN ||
                        (rs == SHUTDOWN && firstTask == null)) {
                        if (t.isAlive()) // precheck that t is startable
                            throw new IllegalThreadStateException();
                        workers.add(w);
                        int s = workers.size();
                        if (s > largestPoolSize)
                            largestPoolSize = s;
                        workerAdded = true;
                    }
                } finally {
                    mainLock.unlock();
                }
                if (workerAdded) {
                    t.start();
                    workerStarted = true;
                }
            }
        } finally {
            if (! workerStarted)
                addWorkerFailed(w);
        }
        return workerStarted;
    }

如果創(chuàng)建失敗的情況下會(huì)調(diào)用addWorkerFailed方法,從而將減少實(shí)際線程數(shù)。

addWorker中for循環(huán)的意義

在addWorker中有這么一段代碼,表示為當(dāng)前線程數(shù)加1:

  private boolean compareAndIncrementWorkerCount(int expect) {
        return ctl.compareAndSet(expect, expect + 1);
    }

由于多線程可能同時(shí)操作。expect值可能會(huì)變化。僅僅一次的操作compareAndIncrementWorkerCount可能一次并不會(huì)成功,而且,一個(gè)線程在執(zhí)行addWork的過程中間,另外一個(gè)線程假設(shè)直接shotdown這個(gè)線程池。for循環(huán)的存在可以保證狀態(tài)一定是一致的。

任務(wù)的執(zhí)行

在Worker中間實(shí)際上是調(diào)用的runWorker方法來執(zhí)行的具體業(yè)務(wù):

final void runWorker(Worker w) {
        Thread wt = Thread.currentThread();
        Runnable task = w.firstTask;
        w.firstTask = null;
        w.unlock(); // allow interrupts
        boolean completedAbruptly = true;
        try {
            while (task != null || (task = getTask()) != null) {
                w.lock();
                if ((runStateAtLeast(ctl.get(), STOP) ||
                     (Thread.interrupted() &&
                      runStateAtLeast(ctl.get(), STOP))) &&
                    !wt.isInterrupted())
                    wt.interrupt();
                try {
                    beforeExecute(wt, task);
                    Throwable thrown = null;
                    try {
                        task.run();
                    } catch (RuntimeException x) {
                        thrown = x; throw x;
                    } catch (Error x) {
                        thrown = x; throw x;
                    } catch (Throwable x) {
                        thrown = x; throw new Error(x);
                    } finally {
                        afterExecute(task, thrown);
                    }
                } finally {
                    task = null;
                    w.completedTasks++;
                    w.unlock();
                }
            }
            completedAbruptly = false;
        } finally {
            processWorkerExit(w, completedAbruptly);
        }
    }

可以看到while循環(huán)不斷的從隊(duì)列中取出任務(wù)執(zhí)行。如果task==null 并且getTask()等于null的話,那么就會(huì)跳出循環(huán),進(jìn)入到processWorkerExit,run方法執(zhí)行完畢以后,這個(gè)線程也被銷毀了。但是為什么在各自的線程執(zhí)行,為什么還需要加鎖呢?答案是因?yàn)橐€程池需要判斷這個(gè)線程是否在執(zhí)行任務(wù)。在interruptIdleWorkers方法中,要中斷那寫目前空閑的線程,通過當(dāng)前Worker是否獲得了鎖就能判斷這個(gè)worker是否是空閑的:

 private void interruptIdleWorkers(boolean onlyOne) {
      final ReentrantLock mainLock = this.mainLock;
      mainLock.lock();
      try {
          for (Worker w : workers) {
              Thread t = w.thread;
              if (!t.isInterrupted() && w.tryLock()) {
                  try {
                      t.interrupt();
                  } catch (SecurityException ignore) {
                  } finally {
                      w.unlock(); //中斷不起作用。interrupt()對(duì)于自旋鎖是不起作用的。只是邏輯上被阻塞,
                  }
              }
              if (onlyOne)
                  break;
          }
      } finally {
          mainLock.unlock();
      }
  }

可以看到,如果w.tryLock()可以獲取到鎖,那么就意味著當(dāng)前的 Woker并沒有處理任務(wù)(沒有進(jìn)入到循環(huán)里面或者被getTask方法所阻塞,無法獲取鎖)。
Work之所以繼承AbstractQueuedSynchronizer,而不去使用ReentrantLock。是因?yàn)镽eentrantLock是可重入鎖,在調(diào)用lock方法獲取鎖之后,再調(diào)用tryLock()還是會(huì)返回true。

public static void main(String[] args) {
        ReentrantLock lock = new ReentrantLock();
        lock.lock();
        System.out.println(lock.tryLock());     
    }

輸出結(jié)果是true,所以使用ReentrantLock則難以判斷當(dāng)前Worker是否在執(zhí)行任務(wù)。

線程超時(shí)allowCoreThreadTimeOut、keepAliveTime以及線程死亡

在上面的interruptIdleWorkers方法中,線程被中斷。普通的線程被中斷會(huì)導(dǎo)致線程繼續(xù)執(zhí)行,從而run方法運(yùn)行完畢,線程退出。

對(duì)于一個(gè)沒有被阻塞的線程,中斷是不起作用的。中斷在如下線程被阻塞的方法中起作用:
the wait(),
wait(long),
wait(long, int)
join(),
join(long),
join(long, int),
sleep(long),
or sleep(long, int)
LockSupport.park(Object object);
LockSupport.park();

,如果喚醒這些被阻塞的線程,從而能使得run方法繼續(xù)執(zhí)行,當(dāng)run方法執(zhí)行完畢,那么線程也就終結(jié)死亡。但是對(duì)于ReentrantLock和AbstractQueuedSynchronizer這種自旋+CAS實(shí)現(xiàn)的“邏輯鎖”,是不起作用的。
而且runWork本身也是While循環(huán),靠中斷是無法退出循環(huán)的。

但是在ThreadPoolExecutor的構(gòu)造函數(shù)中,有一個(gè)允許設(shè)置線程超時(shí)allowCoreThreadTimeOut參數(shù)的方法。如果允許超時(shí),多于corePoolSize的線程將會(huì)在處在空閑狀態(tài)之后存活keepAliveTime時(shí)長后終止。因此有了一個(gè)allowCoreThreadTimeOut方法:

 public void allowCoreThreadTimeOut(boolean value) {
        if (value && keepAliveTime <= 0)
            throw new IllegalArgumentException("Core threads must have nonzero keep alive times");
        if (value != allowCoreThreadTimeOut) {
            allowCoreThreadTimeOut = value;
            if (value)
                interruptIdleWorkers();
        }
    }

正如上面提到的一樣,允許allowCoreThreadTimeOut并且調(diào)用interruptIdleWorkers方法并不能使線程退出。那么線程池又如何殺掉這個(gè)線程呢?
??沒錯(cuò),就是getTask方法。只有當(dāng)getTask返回null的時(shí)候才能跳出While循環(huán),run方法運(yùn)行完畢,那么線程自然而然就死亡了。getTask方法如下所示:

private Runnable getTask() {
      boolean timedOut = false; // Did the last poll() time out?
      for (;;) {
          int c = ctl.get();
          int rs = runStateOf(c);

          // Check if queue empty only if necessary.
          if (rs >= SHUTDOWN && (rs >= STOP || workQueue.isEmpty())) {
              decrementWorkerCount();
              return null;
          }

          int wc = workerCountOf(c);
          // Are workers subject to culling?
          boolean timed = allowCoreThreadTimeOut || wc > corePoolSize;
          if ((wc > maximumPoolSize || (timed && timedOut))
              && (wc > 1 || workQueue.isEmpty())) {
              if (compareAndDecrementWorkerCount(c))
                  return null;
              continue;
          }
          try {
              Runnable r = timed ?
                  workQueue.poll(keepAliveTime, TimeUnit.NANOSECONDS) :
                  workQueue.take();
              if (r != null)
                  return r;
              timedOut = true;
          } catch (InterruptedException retry) {
              timedOut = false;
          }
      }
  }

可以看到,如果線程池狀態(tài)大于SHUTDOWN并且隊(duì)列空,返回null,從而結(jié)束循環(huán)。(線程死亡)

或者狀態(tài)大于SHUTDOWN并且線程大于STOP(STOP一定大于SHUTDOWN,所以可以直接說線程大于STOP)返回null,從而結(jié)束循環(huán)。(線程死亡)
再往下可以看到如果超過了maximumPoolSize,返回null,從而結(jié)束循環(huán)。(線程死亡)
超過keepAliveTime時(shí)間,任務(wù)對(duì)列沒有數(shù)據(jù)而返回null。從而結(jié)束循環(huán)。(線程死亡)
boolean timed = allowCoreThreadTimeOut || wc > corePoolSize;保證了線程池至少留下corePoolSize個(gè)線程。

預(yù)定義的拒接處理協(xié)議

在execute方法中,如果線程池拒絕添加任務(wù),就會(huì)有一個(gè)鉤子方法來處理被拒絕的任務(wù)。
可以自己定義,也可以使用線城池中默認(rèn)的拒接處理協(xié)議。

AbortPolicy :直接拋出RejectedExecutionException異常;

CallerRunsPolicy:誰調(diào)用的execute方法,誰就執(zhí)行這個(gè)任務(wù);

DiscardPolicy:直接丟棄,什么也不做;

DiscardOldestPolicy:丟棄對(duì)列中間最老的任務(wù),執(zhí)行新任務(wù)。

有什么問題或者建議,可以加入小密圈和我一起討論,或者在簡書留言,歡迎喜歡和打賞。

本書節(jié)選自:Java并發(fā)編程系統(tǒng)與模型,個(gè)人覺得寫得不錯(cuò),比較通俗易懂,非常適合初學(xué)者,百度閱讀可以下載電子書。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。
  • 序言:七十年代末,一起剝皮案震驚了整個(gè)濱河市,隨后出現(xiàn)的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 229,908評(píng)論 6 541
  • 序言:濱河連續(xù)發(fā)生了三起死亡事件,死亡現(xiàn)場(chǎng)離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機(jī),發(fā)現(xiàn)死者居然都...
    沈念sama閱讀 99,324評(píng)論 3 429
  • 文/潘曉璐 我一進(jìn)店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 178,018評(píng)論 0 383
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經(jīng)常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,675評(píng)論 1 317
  • 正文 為了忘掉前任,我火速辦了婚禮,結(jié)果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當(dāng)我...
    茶點(diǎn)故事閱讀 72,417評(píng)論 6 412
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發(fā)上,一...
    開封第一講書人閱讀 55,783評(píng)論 1 329
  • 那天,我揣著相機(jī)與錄音,去河邊找鬼。 笑死,一個(gè)胖子當(dāng)著我的面吹牛,可吹牛的內(nèi)容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,779評(píng)論 3 446
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場(chǎng)噩夢(mèng)啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側(cè)響起,我...
    開封第一講書人閱讀 42,960評(píng)論 0 290
  • 序言:老撾萬榮一對(duì)情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個(gè)月后,有當(dāng)?shù)厝嗽跇淞掷锇l(fā)現(xiàn)了一具尸體,經(jīng)...
    沈念sama閱讀 49,522評(píng)論 1 335
  • 正文 獨(dú)居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內(nèi)容為張勛視角 年9月15日...
    茶點(diǎn)故事閱讀 41,267評(píng)論 3 358
  • 正文 我和宋清朗相戀三年,在試婚紗的時(shí)候發(fā)現(xiàn)自己被綠了。 大學(xué)時(shí)的朋友給我發(fā)了我未婚夫和他白月光在一起吃飯的照片。...
    茶點(diǎn)故事閱讀 43,471評(píng)論 1 374
  • 序言:一個(gè)原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內(nèi)的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 39,009評(píng)論 5 363
  • 正文 年R本政府宣布,位于F島的核電站,受9級(jí)特大地震影響,放射性物質(zhì)發(fā)生泄漏。R本人自食惡果不足惜,卻給世界環(huán)境...
    茶點(diǎn)故事閱讀 44,698評(píng)論 3 348
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 35,099評(píng)論 0 28
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監(jiān)牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 36,386評(píng)論 1 294
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機(jī)就差點(diǎn)兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個(gè)月前我還...
    沈念sama閱讀 52,204評(píng)論 3 398
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對(duì)象是個(gè)殘疾皇子,可洞房花燭夜當(dāng)晚...
    茶點(diǎn)故事閱讀 48,436評(píng)論 2 378

推薦閱讀更多精彩內(nèi)容