在java多線程應用中，隊列的使用率很高，多數(shù)生產(chǎn)消費模型的首選數(shù)據(jù)結(jié)構(gòu)就是隊列。Java提供的線程安全的Queue可以分為阻塞隊列和非阻塞隊列。
其中阻塞隊列的典型例子是BlockingQueue，非阻塞隊列的典型例子是ConcurrentLinkedQueue,在實際應用中要根據(jù)實際需要選用阻塞隊列或者非阻塞隊列。
** 首先了解下什么叫線程安全？**
這個首先要明確。線程安全的類，指的是類內(nèi)共享的全局變量的訪問必須保證是不受多線程形式影響的。如果由多線程的訪問（比如修改、遍歷、查看）而使這些變量結(jié)構(gòu)被破壞或者針對這些變量操作的原子性被破壞，則這個類就不是線程安全的。
這次就主要看兩種Queue:
BlockingQueue 阻塞算法
ConcurrentLinkedQueue，非阻塞算法
首先來看看BlockingQueue：
Queue是什么就不需要多說了吧，一句話：隊列是先進先出。相對的，棧是后進先出。如果不熟悉的話可以先找本基礎(chǔ)的數(shù)據(jù)結(jié)構(gòu)的書看看。
BlockingQueue，顧名思義，“阻塞隊列”：可以提供阻塞功能的隊列。
首先，看看BlockingQueue提供的常用方法：
從上表可以很明顯看出每個方法的作用，這里需要注意的是：
add(e) remove() element() 方法不會阻塞線程。當不滿足約束條件時，會拋出IllegalStateException 異常。例如：當隊列被元素填滿后，再調(diào)用add(e)，則會拋出異常。
offer(e) poll() peek() 方法即不會阻塞線程，也不會拋出異常。例如：當隊列被元素填滿后，再調(diào)用offer(e)，則不會插入元素，函數(shù)返回false。
要想要實現(xiàn)阻塞功能，需要調(diào)用put(e) take() 方法。當不滿足約束條件時，會阻塞線程。
好，上點源碼就更明白了。以ArrayBlockingQueue類為例：
對于第一類方法，很明顯如果操作不成功就拋異常。而且可以看到其實調(diào)用的是第二類的方法，為什么？因為第二類方法返回boolean。
public boolean add(E e) {
if (offer(e))
return true;
else
throw new IllegalStateException("Queue full");//隊列已滿，拋異常
}
public E remove() {
E x = poll();
if (x != null)
return x;
else
throw new NoSuchElementException();//隊列為空，拋異常
}
對于第二類方法，很標準的ReentrantLock使用方式，另外對于insert和extract的實現(xiàn)沒啥好說的。
注：先不看阻塞與否，這ReentrantLock的使用方式就能說明這個類是線程安全類。
ert方法中發(fā)出了notEmpty.signal();
return true;
}
} finally {
lock.unlock();
}
}
public E poll() {
final ReentrantLock lock = this.lock;
lock.lock();
try {
if (count == 0)//隊列為空，返回false
return null;
E x = extract();//extract方法中發(fā)出了notFull.signal();
return x;
} finally {
lock.unlock();
}
}
對于第三類方法，這里面涉及到Condition類，簡要提一下， await方法指：造成當前線程在接到信號或被中斷之前一直處于等待狀態(tài)。 signal方法指：喚醒一個等待線程。
public void put(E e)throws InterruptedException {
if (e == null)throw new NullPointerException();
final E[] items = this.items;
final ReentrantLock lock = this.lock;
lock.lockInterruptibly();
try {
try {
while (count == items.length)//如果隊列已滿，等待notFull這個條件，這時當前線程被阻塞
notFull.await();
} catch (InterruptedException ie) {
notFull.signal(); //喚醒受notFull阻塞的當前線程
throw ie;
}
insert(e);
} finally {
lock.unlock();
}
}
public E take() throws InterruptedException {
final ReentrantLock lock = this.lock;
lock.lockInterruptibly();
try {
try {
while (count == 0)//如果隊列為空，等待notEmpty這個條件，這時當前線程被阻塞
notEmpty.await();
} catch (InterruptedException ie) {
notEmpty.signal();//喚醒受notEmpty阻塞的當前線程
throw ie;
}
E x = extract();
return x;
} finally {
lock.unlock();
}
}
第四類方法就是指在有必要時等待指定時間，就不詳細說了。
再來看看BlockingQueue接口的具體實現(xiàn)類吧：
ArrayBlockingQueue，其構(gòu)造函數(shù)必須帶一個int參數(shù)來指明其大小
LinkedBlockingQueue，若其構(gòu)造函數(shù)帶一個規(guī)定大小的參數(shù)，生成的BlockingQueue有大小限制，若不帶大小參數(shù)，所生成的BlockingQueue的大小由Integer.MAX_VALUE來決定
PriorityBlockingQueue，其所含對象的排序不是FIFO,而是依據(jù)對象的自然排序順序或者是構(gòu)造函數(shù)的Comparator決定的順序
上面是用ArrayBlockingQueue舉得例子，下面看看LinkedBlockingQueue：
首先，既然是鏈表，就應該有Node節(jié)點，它是一個內(nèi)部靜態(tài)類：
static class Node<E> {
/** The item, volatile to ensure barrier separating write and read */
volatile E item;
Node<E> next;
Node(E x) { item = x; }
}
然后，對于鏈表來說，肯定需要兩個變量來標示頭和尾：
/** 頭指針 */
private transient Node<E> head;//head.next是隊列的頭元素
/** 尾指針 */
private transient Node<E> last;//last.next是null
那么，對于入隊和出隊就很自然能理解了：
private void enqueue(E x) {
last = last.next = new Node<E>(x);//入隊是為last再找個下家
}
private E dequeue() {
Node<E> first = head.next; //出隊是把head.next取出來，然后將head向后移一位
head = first;
E x = first.item;
first.item = null;
return x;
}
另外，LinkedBlockingQueue相對于ArrayBlockingQueue還有不同是，有兩個ReentrantLock，且隊列現(xiàn)有元素的大小由一個AtomicInteger對象標示。
注：AtomicInteger類是以原子的方式操作整型變量。
private final AtomicInteger count =new AtomicInteger(0);
/** 用于讀取的獨占鎖*/
private final ReentrantLock takeLock =new ReentrantLock();
/** 隊列是否為空的條件 */
private final Condition notEmpty = takeLock.newCondition();
/** 用于寫入的獨占鎖 */
private final ReentrantLock putLock =new ReentrantLock();
/** 隊列是否已滿的條件 */
private final Condition notFull = putLock.newCondition();
有兩個Condition很好理解，在ArrayBlockingQueue也是這樣做的。
但是為什么需要兩個ReentrantLock呢？下面會慢慢道來。
讓我們來看看offer和poll方法的代碼：
<span style="font-size:14px;">public boolean offer(E e) {
if (e == null)throw new NullPointerException();
final AtomicInteger count = this.count;
if (count.get() == capacity)
return false;
int c = -1;
final ReentrantLock putLock =this.putLock;//入隊當然用putLock
putLock.lock();
try {
if (count.get() < capacity) {
enqueue(e); //入隊
c = count.getAndIncrement(); //隊長度+1
if (c + 1 < capacity)
notFull.signal(); //隊列沒滿，當然可以解鎖了
}
} finally {
putLock.unlock();
}
if (c == 0)
signalNotEmpty();//這個方法里發(fā)出了notEmpty.signal();
return c >= 0;
}
public E poll() {
final AtomicInteger count = this.count;
if (count.get() == 0)
return null;
E x = null;
int c = -1;
final ReentrantLock takeLock =this.takeLock;出隊當然用takeLock
takeLock.lock();
try {
if (count.get() > 0) {
x = dequeue();//出隊
c = count.getAndDecrement();//隊長度-1
if (c > 1)
notEmpty.signal();//隊列沒空，解鎖
}
} finally {
takeLock.unlock();
}
if (c == capacity)
signalNotFull();//這個方法里發(fā)出了notFull.signal();
return x;
}</span>
看源代碼發(fā)現(xiàn)和上面ArrayBlockingQueue的很類似，關(guān)鍵的問題在于：為什么要用兩個ReentrantLockputLock和takeLock？
我們仔細想一下，入隊操作其實操作的只有隊尾引用last，并且沒有牽涉到head。而出隊操作其實只針對head，和last沒有關(guān)系。那么就是說入隊和出隊的操作完全不需要公用一把鎖，所以就設(shè)計了兩個鎖，這樣就實現(xiàn)了多個不同任務的線程入隊的同時可以進行出隊的操作，另一方面由于兩個操作所共同使用的count是AtomicInteger類型的，所以完全不用考慮計數(shù)器遞增遞減的問題。
另外，還有一點需要說明一下：await()和singal()這兩個方法執(zhí)行時都會檢查當前線程是否是獨占鎖的當前線程，如果不是則拋出java.lang.IllegalMonitorStateException異常。
所以可以看到在源碼中這兩個方法都出現(xiàn)在Lock的保護塊中。
下面再來說說ConcurrentLinkedQueue，它是一個無鎖的并發(fā)線程安全的隊列。
對比鎖機制的實現(xiàn)，使用無鎖機制的難點在于要充分考慮線程間的協(xié)調(diào)。簡單的說就是多個線程對內(nèi)部數(shù)據(jù)結(jié)構(gòu)進行訪問時，如果其中一個線程執(zhí)行的中途因為一些原因出現(xiàn)故障，其他的線程能夠檢測并幫助完成剩下的操作。這就需要把對數(shù)據(jù)結(jié)構(gòu)的操作過程精細的劃分成多個狀態(tài)或階段，考慮每個階段或狀態(tài)多線程訪問會出現(xiàn)的情況。
ConcurrentLinkedQueue有兩個volatile的線程共享變量：head，tail。要保證這個隊列的線程安全就是保證對這兩個Node的引用的訪問（更新，查看）的原子性和可見性，由于volatile本身能夠保證可見性，所以就是對其修改的原子性要被保證。
下面通過offer方法的實現(xiàn)來看看在無鎖情況下如何保證原子性：
public boolean offer(E e) {
if (e == null)throw new NullPointerException();
Node<E> n = new Node<E>(e, null);
for (;;) {
Node<E> t = tail;
Node<E> s = t.getNext();
if (t == tail) { //------------------------------a
if (s == null) {//---------------------------b
if (t.casNext(s, n)) { //-------------------c
casTail(t, n); //------------------------d
return true;
}
} else {
casTail(t, s); //----------------------------e
}
}
}
}
此方法的循環(huán)內(nèi)首先獲得尾指針和其next指向的對象，由于tail和Node的next均是volatile的，所以保證了獲得的分別都是最新的值。
代碼a：t==tail是最上層的協(xié)調(diào)，如果其他線程改變了tail的引用，則說明現(xiàn)在獲得不是最新的尾指針需要重新循環(huán)獲得最新的值。
代碼b：s==null的判斷。靜止狀態(tài)下tail的next一定是指向null的，但是多線程下的另一個狀態(tài)就是中間態(tài)：tail的指向沒有改變，但是其next已經(jīng)指向新的結(jié)點，即完成tail引用改變前的狀態(tài)，這時候s!=null。這里就是協(xié)調(diào)的典型應用，直接進入代碼e去協(xié)調(diào)參與中間態(tài)的線程去完成最后的更新，然后重新循環(huán)獲得新的tail開始自己的新一次的入隊嘗試。另外值得注意的是a,b之間，其他的線程可能會改變tail的指向，使得協(xié)調(diào)的操作失敗。從這個步驟可以看到無鎖實現(xiàn)的復雜性。
代碼c：t.casNext(s, n)是入隊的第一步，因為入隊需要兩步：更新Node的next，改變tail的指向。代碼c之前可能發(fā)生tail引用指向的改變或者進入更新的中間態(tài)，這兩種情況均會使得t指向的元素的next屬性被原子的改變，不再指向null。這時代碼c操作失敗，重新進入循環(huán)。
代碼d：這是完成更新的最后一步了，就是更新tail的指向，最有意思的協(xié)調(diào)在這兒又有了體現(xiàn)。從代碼看casTail(t, n)不管是否成功都會接著返回true標志著更新的成功。首先如果成功則表明本線程完成了兩步的更新，返回true是理所當然的；如果 casTail(t, n)不成功呢？要清楚的是完成代碼c則代表著更新進入了中間態(tài)，代碼d不成功則是tail的指向被其他線程改變。意味著對于其他的線程而言：它們得到的是中間態(tài)的更新，s!=null，進入代碼e幫助本線程執(zhí)行最后一步并且先于本線程成功。這樣本線程雖然代碼d失敗了，但是是由于別的線程的協(xié)助先完成了，所以返回true也就理所當然了。
通過分析這個入隊的操作，可以清晰的看到無鎖實現(xiàn)的每個步驟和狀態(tài)下多線程之間的協(xié)調(diào)和工作。
注：上面這大段文字看起來很累，先能看懂多少看懂多少，現(xiàn)在看不懂先不急，下面還會提到這個算法，并且用示意圖說明，就易懂很多了。
在使用ConcurrentLinkedQueue時要注意，如果直接使用它提供的函數(shù)，比如add或者poll方法，這樣我們自己不需要做任何同步。
但如果是非原子操作，比如：
if(!queue.isEmpty()) {
queue.poll(obj);
}
我們很難保證，在調(diào)用了isEmpty()之后，poll()之前，這個queue沒有被其他線程修改。所以對于這種情況，我們還是需要自己同步：
synchronized(queue) {
if(!queue.isEmpty()) {
queue.poll(obj);
}
}
注：這種需要進行自己同步的情況要視情況而定，不是任何情況下都需要這樣做。
另外還說一下，ConcurrentLinkedQueue的size()是要遍歷一遍集合的，所以盡量要避免用size而改用isEmpty()，以免性能過慢。
最后總結(jié)一下，阻塞算法其實很好理解，簡單點理解就是加鎖，比如在BlockingQueue中看到的那樣，再往前推點，那就是synchronized。相比而言，非阻塞算法的設(shè)計和實現(xiàn)都很困難，要通過低級的原子性來支持并發(fā)。下面就簡要的介紹一下非阻塞算法，以下部分的內(nèi)容參照了一篇很經(jīng)典的文章http://www.ibm.com/developerworks/cn/java/j-jtp04186/
注：我覺得可以這樣理解，阻塞對應同步，非阻塞對應并發(fā)。也可以說：同步是阻塞模式，異步是非阻塞模式
舉個例子來說明什么是非阻塞算法：非阻塞的計數(shù)器
首先，使用同步的線程安全的計數(shù)器代碼如下
public finalclass Counter {
private long value =0;
public synchronizedlong getValue() {
return value;
}
public synchronizedlong increment() {
return ++value;
}
}
下面的代碼顯示了一種最簡單的非阻塞算法：使用 AtomicInteger的compareAndSet()（CAS方法）的計數(shù)器。compareAndSet()方法規(guī)定“將這個變量更新為新值，但是如果從我上次看到這個變量之后其他線程修改了它的值，那么更新就失敗”
public class NonblockingCounter {
private AtomicInteger value;//前面提到過，AtomicInteger類是以原子的方式操作整型變量。
public int getValue() {
return value.get();
}
public int increment() {
int v;
do {
v = value.get();
while (!value.compareAndSet(v, v +1));
return v + 1;
}
}
非阻塞版本相對于基于鎖的版本有幾個性能優(yōu)勢。首先，它用硬件的原生形態(tài)代替 JVM 的鎖定代碼路徑，從而在更細的粒度層次上（獨立的內(nèi)存位置）進行同步，失敗的線程也可以立即重試，而不會被掛起后重新調(diào)度。更細的粒度降低了爭用的機會，不用重新調(diào)度就能重試的能力也降低了爭用的成本。即使有少量失敗的 CAS 操作，這種方法仍然會比由于鎖爭用造成的重新調(diào)度快得多。
NonblockingCounter 這個示例可能簡單了些，但是它演示了所有非阻塞算法的一個基本特征——有些算法步驟的執(zhí)行是要冒險的，因為知道如果 CAS 不成功可能不得不重做。非阻塞算法通常叫作樂觀算法，因為它們繼續(xù)操作的假設(shè)是不會有干擾。如果發(fā)現(xiàn)干擾，就會回退并重試。在計數(shù)器的示例中，冒險的步驟是遞增——它檢索舊值并在舊值上加一，希望在計算更新期間值不會變化。如果它的希望落空，就會再次檢索值，并重做遞增計算。
再來一個例子，Michael-Scott 非阻塞隊列算法的插入操作，ConcurrentLinkedQueue 就是用這個算法實現(xiàn)的，現(xiàn)在來結(jié)合示意圖分析一下，很明朗：
public class LinkedQueue <E> {
private staticclass Node <E> {
final E item;
final AtomicReference<Node<E>> next;
Node(E item, Node<E> next) {
this.item = item;
this.next = new AtomicReference<Node<E>>(next);
}
}
private AtomicReference<Node<E>> head= new AtomicReference<Node<E>>(new Node<E>(null,null));
private AtomicReference<Node<E>> tail = head;
public boolean put(E item) {
Node<E> newNode = new Node<E>(item,null);
while (true) {
Node<E> curTail = tail.get();
Node<E> residue = curTail.next.get();
if (curTail == tail.get()) {
if (residue == null)/* A */ {
if (curTail.next.compareAndSet(null, newNode))/* C */ {
tail.compareAndSet(curTail, newNode) /* D */ ;
return true;
}
} else {
tail.compareAndSet(curTail, residue) /* B */;
}
}
}
}
}
這代碼完全就是ConcurrentLinkedQueue 源碼。
插入一個元素涉及頭指針和尾指針兩個指針更新，這兩個更新都是通過 CAS 進行的：從隊列當前的最后節(jié)點（C）鏈接到新節(jié)點，并把尾指針移動到新的最后一個節(jié)點（D）。如果第一步失敗，那么隊列的狀態(tài)不變，插入線程會繼續(xù)重試，直到成功。一旦操作成功，插入被當成生效，其他線程就可以看到修改。還需要把尾指針移動到新節(jié)點的位置上，但是這項工作可以看成是 “清理工作”，因為任何處在這種情況下的線程都可以判斷出是否需要這種清理，也知道如何進行清理。
隊列總是處于兩種狀態(tài)之一：正常狀態(tài)（或稱靜止狀態(tài)，圖 1 和 圖 3）或中間狀態(tài)（圖 2）。在插入操作之前和第二個 CAS（D）成功之后，隊列處在靜止狀態(tài)；在第一個 CAS（C）成功之后，隊列處在中間狀態(tài)。在靜止狀態(tài)時，尾指針指向的鏈接節(jié)點的 next 字段總為 null，而在中間狀態(tài)時，這個字段為非 null。任何線程通過比較 tail.next 是否為 null，就可以判斷出隊列的狀態(tài)，這是讓線程可以幫助其他線程 “完成” 操作的關(guān)鍵。
插入操作在插入新元素（A）之前，先檢查隊列是否處在中間狀態(tài)。如果是在中間狀態(tài)，那么肯定有其他線程已經(jīng)處在元素插入的中途，在步驟（C）和（D）之間。不必等候其他線程完成，當前線程就可以 “幫助” 它完成操作，把尾指針向前移動（B）。如果有必要，它還會繼續(xù)檢查尾指針并向前移動指針，直到隊列處于靜止狀態(tài)，這時它就可以開始自己的插入了。
第一個 CAS（C）可能因為兩個線程競爭訪問隊列當前的最后一個元素而失敗；在這種情況下，沒有發(fā)生修改，失去 CAS 的線程會重新裝入尾指針并再次嘗試。如果第二個 CAS（D）失敗，插入線程不需要重試 —— 因為其他線程已經(jīng)在步驟（B）中替它完成了這個操作！
