一、QA

計算機硬件中高速緩存的作用是什么？

• 內存讀寫速度與處理器運算速度相比有幾個數量級的差距，所以現代計算機都會在處理器與內存之間加入高速緩存來作為內存與處理器之間的緩沖：將運算需要使用到的數據復制到高速緩存中，讓運算能快速進行，當運算結束后再從高速緩存同步到內存中，這樣處理器就無需等待緩慢的內存讀寫了。

在處理器與內存之間加入高速緩存會出現什么問題，這個問題又是怎么解決的？

• 會出現緩存一致性問題，因為每個處理器都有自己的高速緩存，而它們又共享同一主內存，當多個處理器的運算任務都涉及到同一塊主內存區域時，將可能導致各自的緩存數據不一致，那么再次同步回主內存時，不知道哪個高速緩存中的數據是正確的。

• 為了解決一致性問題，需要各個處理器訪問緩存時都遵循一些協議，在讀寫的時候需要根據協議來進行操作。

  image

什么是內存模型？

• 內存模型可以理解為在特定操作協議下，對特定的內存或高速緩存進行讀寫訪問的過程抽象。

為什么要定義Java內存模型？它的定義的什么？

• 為了屏蔽掉各種硬件和操作系統的內存訪問差異，以實現讓java程序員在各種平臺下都能達到一致的內存訪問效果。
• 它主要定義了程序中各種變量的訪問規則，這里的變量指的是實例字段、靜態字段和構成數組對象的元素。為了獲得較好的執行效能，java內存模型并沒有限制執行引擎使用處理器的特定寄存器或緩存來和主內存進行交互，也沒有限制即時編譯器進行調整代碼執行順序這類優化措施。

不同硬件與操作系統的內存訪問是有差異的，但有了JVM這一層適配，做到了java程序在各種平臺都能達到一致的內存訪問效果。JVM之所以能夠做好內存訪問的適配，是因為Java內存模型（JMM）定義了內存訪問規則。

Java內存模型中主內存與工作內存的關系是什么？

• 所有變量都存儲在主內存。

• 每條線程還有自己的工作內存。

• 線程的工作內存中保存了被該線程使用到的變量的主內存副本拷貝。（不會有虛擬機的實現把整個對象拷貝一份）

• 線程對變量的所有操作（讀取、賦值等）都必須在工作內存中進行，而不能直接讀寫主內存中的變量。（即使是volatile變量也存在內存的拷貝，它只是看起來像是直接讀寫主內存）

• 不同線程之間無法直接訪問對方工作內存中的變量。

• 線程間變量值的傳遞均需要通過主內存來完成。

  image

主內存與工作內存的具體交互協議是什么？

• java內存模型定義了以下8種操作來完成一個變量從主內存拷貝到工作內存和從工作內存同步回主內存之間的實現細節。虛擬機實現時必須保證下面提及的每一種操作都是原子的、不可再分的（對于double和long類型的變量來說，load、store、read和write操作在某些平臺上允許有例外）。

  • lock（鎖定）：作用于主內存的變量，它把一個變量標識為一條線程獨占的狀態。
  • unlock（解鎖）：作用于主內存的變量，它把一個處于鎖定狀態的變量釋放出來，是釋放后的變量才可以被其他線程鎖定。
  • read（讀?。鹤饔糜谥鲀却娴淖兞浚岩粋€變量的值從主內存傳輸到線程的工作內存中，以便隨后的load動作使用。
  • load（載入）：作用于工作內存的變量，它把read操作從主內存中得到的變量值放到工作內存的變量副本中。
  • use（使用）：作用于工作內存的變量，它把工作內存中一個變量的值傳遞給執行引擎，每當虛擬機遇到一個需要使用到變量的值的字節碼指令時將會執行這個操作。
  • assign（賦值）：作用于工作內存的變量，它把從執行引擎接收到的值賦給工作內存中的變量，每當虛擬機遇到一個給變量賦值的字節碼指令時執行這個操作。
  • store（存儲）：作用于工作內存的變量，它把工作內存中一個變量的值傳送到主內存中，以便隨后的write操作使用。
  • write（寫入）：作用于主內存的變量，它把store操作從工作內存中得到的變量的值放入主內存的變量中。

• 如果要把一個變量從主內存復制到工作內存，那就要順序地執行read和load操作，如果要把變量從工作內存同步回主內存，就要順序地執行store和write操作。注意，java內存模型只要求上述兩個操作必須按順序執行，而沒有保證是連續執行。也就是說，read和load之間、store和write之間是可插入其他指令的，如對主內存中的變量a、b進行訪問時，一種可能出現順序是：read a、read b、load b、load a。除此之外，java內存模型還規定了在執行上述8種基本操作時必須滿足如下規則：

  • 不允許read和load、store和write操作之一單獨出現，即不允許一個變量從主內存讀取了但工作內存不接受，或者從工作內存發起回寫了但主內存不接受的情況出現。
  • 不允許一個線程丟棄它的最近的assign操作，即變量在工作內存中改變了之后必須把該變化同步回主內存。
  • 不允許一個線程無原因的（沒有發生過任何assign操作）把數據從線程工作內存同步回主內存。
  • 一個新的變量只能在主內存中“誕生”，不允許在工作內存中直接使用一個未被初始化（load或assign）的變量，換句話說，就是對一個變量實施use、store操作之前，必須先執行過了assign和load操作。
  • 一個變量在同一時刻只允許一條線程對其進行lock操作，但lock操作可以被同一條線程重復執行多次，多次執行lock后，只有相同次數的unlock操作，變量才會被解鎖。
  • 如果一個變量執行lock操作，那將會清空工作內存中此變量的值，在執行引擎使用這個變量前，需要重新load或assign操作初始化變量的值。
  • 如果一個變量實現沒有被lock操作鎖定，那就不允許對它進行unlock操作，也不允許去unlock一個被其他線程鎖定的變量。
  • 對一個變量執行unlock操作之前，必須先把此變量同步回主內存中（執行store、write操作）。

• 對volatile型變量的特殊規則

  假定T表示一個線程，V和W分別表示兩個volatile型變量，那么在進行read、load、use、assign、store和write操作時需要滿足如下規則：

  • 只有當線程T對變量V執行的前一個動作是load的時候，線程T才能對變量V執行use動作；并且，只有當線程T對變量V執行的后一個動作是use的時候，線程T才能對變量V執行load操作。線程T對變量V的use動作可以認為是和線程T對變量V的load、read動作相關聯，必須連續出現（這條規則要求在工作內存中，每次使用V前都必須先從主內存刷新最新的值，用于保證能看見其他線程對變量V所作的修改后的值）。
  • 只有當線程T對變量V執行的前一個動作是assign的時候，線程T才能對變量V執行store動作；并且，之后當線程T對變量V執行的后一個動作是store的時候，線程T才能對變量V執行assign動作。線程T對變量V的assign動作可以認為是和線程T對變量V的stored、write動作相關聯，必須連續一起出現（這條規則要求在工作內存中，每次修改V后都必須立刻同步回主內存中，用于保證其他線程可以看到自己對變量V所做的修改）；
  • 假定動作A是線程T對變量V實施use或assign動作，假定動作F是和動作A相關聯的load或store動作，假定動作P是和動作F相應的對變量V的read或write動作；類似的，假定動作B是線程T對變量W實施的use或assign動作，假定動作G是和動作B相關聯的load或store動作，假定動作Q是和動作G相應的對變量W的read或write動作。如果A先于B，那么P先于Q（這條規則要求volatile修飾的變量不會被指定重排序優化，保證代碼的執行順序與程序的順序相同）。

• 8種內存訪問操作、這些操作的規則限定和volatile的一些特殊規定，就已經完全確定了java程序中哪些內存訪問操作在并發下是安全的。由于這種定義相當嚴謹和煩瑣，所以還有一個和這種定義等效的判斷原則——先行發生原則（happen-before），用來確定一個訪問在并發環境下是否安全。

volatile的作用是什么？

什么是happens-before原則？

它是判斷數據是否存在競爭、線程是否安全的主要依據，依靠這個原則，我們可以通過幾條規則一攬子地解決并發環境下兩個操作之間是否可能存在沖突的所有問題。

先行發生是Java內存模型中定義的兩項操作之間的偏序關系，如果說操作A先行發生與操作B，其實就是說在發生操作B之前，操作A產生的影響能被B觀察到，“影響”包括修改了內存中共享變量的值、發送了消息、調用了方法等。

下面是Java內存模型下一些“天然的”先行發生關系，這些先行發生關系無須任何同步器協助就已經存在，可以在編碼中直接使用。如果兩個操作之間的關系不在此列，并且無法從下列規則推導出來的話，他們就沒有順序性保障，虛擬機可以對他們隨意地進行重排序。

• 程序次序規則（Program Order Rule）：在一個線程內，按照程序代碼順序，書寫在前面的操作先行發生于書寫在后面的操作。準確地說，應該是控制流順序而不是程序代碼順序，因為要考慮分支、循環等結構。
• 管程鎖定規則（Monitor Lock Rule）：一個unlock操作先行發生于后面對同一個鎖的lock操作。這里必須強調的是同一個鎖，而“后面”是指時間上的先后順序。
• volatile變量規則（Volatile Variable Rule）：對一個volatile變量的寫操作先行發生于后面對這個變量的讀操作，這里的“后面”同樣是指時間上的先后順序。
• 線程啟動規則（Thread Start Rule）：Thread對象的start方法先行發生于此線程的每一個動作。
• 線程終止規則（Thread Termination Rule）：線程中的所有操作都先行發生于對此線程的終止檢測，我們可以通過Thread.join()方法結束、Thread.isAlive()的返回值等手段檢測到線程已經終止執行。
• 線程中斷規則（Thread Interruption Rule）：對線程interrupt方法的調用先行發生于被中斷線程的代碼檢測到中斷事件的發生，可以通過Thread.interrupted()方法檢測到是否有中斷發生。
• 對象終結規則（Finalizer Rule）：一個對象的初始化完成（構造函數執行結束）先行發生于它的finalize方法的開始。
• 傳遞性（Transitivity）：如果操作A先行發生于操作B，操作B先行發生于操作C，那就可以得出操作A先行發生于操作C的結論。

舉一個先行發生原則的例子

private int value = 0；
public void setValue(int value) {
    this.value = value;
}
public int getValue() {
    return value;
}

假設存在線程A和線程B，線程A先（時間上）調用了setValue(1)，然后線程B調用了同一個對象的getValue()，那么線程B收到的返回值是什么？

• 由于兩個方法分別有線程A和線程B調用，不在一個線程中，所以程序次序規則在這里不適用；
• 由于沒有同步塊，自然就不會發生lock和unlock操作，所以管程鎖定規則不適用；
• 由于value變量沒有被volatile關鍵字修飾，所以volatile變量規則不適用；
• 后面的線程啟動、終止、中斷規則和對象終結規則也和這里沒有關系；
• 因為沒有一個適合的先行發生規則，所以最后一條傳遞性也無從談起。

因此我們可以判定盡管線程A在操作時間上先于線程B，但是無法確定線程B中getValue的返回結果，換句話說，這里面的操作不是線程安全的。

那么怎么修復這個問題呢？我們至少有兩種比較簡單的方案可以選擇：

• 要么把getter/setter方法都定義為synchronized方法，這樣就可以套用管程鎖定規則
• 要么把value定義為volatile變量，由于setter方法對value的修改不依賴value的原值，滿足volatile關鍵字使用場景，這樣就可以套用volatile變量規則來實現先行發生關系。

結論：一個操作“時間上的先發生”不代表這個操作會是“先行發生”，那如果一個操作“先行發生”是否就能推導出這個操作必須是“時間上的先發生”呢？很遺憾，這個推論也不成立，一個典型的例子就是“指令重排序”。

// 以下操作在同一個線程中執行
int i = 1;
int j = 2;

上面的代碼中，兩條賦值語句在同一個線程中，根據程序次序規則，int i = 1的操作先行發生于int j = 2，但是int j = 2的代碼完全可能先被處理器執行，這并不影響先行發生原則的正確性，因為我們在這條線程之中沒有辦法感知這點。

上面兩個例子綜合起來證明了一個結論：時間上先后順序與先行發生原則之間基本沒有太大的關系，所以我們衡量并發安全問題的時候不要受到時間順序的干擾，一切必須以先行發生原則為準。

Java內存模型是圍繞著在并發過程中如何處理原子性、可見性和有序性這3個特征來建立的，那么哪些操作實現了這3個特征？

• 原子性（Atomicity）：

  • 由Java內存模型來直接保證的原子性變量操作包括read、load、use、store和write，我們大致可以認為基本數據類型的訪問讀寫是具備原子性的（除了long和double的非原子性協定）。

  • 如果應用場景需要一個更大范圍的原子性保證，Java內存模型還提供了lock和unlock操作來滿足這種需求，盡管虛擬機未把lock和unlock操作直接開放給用戶使用，但是卻提供了更高層次的字節碼指令monitorenter和monitorexit來隱式地使用這兩個操作，這兩個字節碼指令反映到Java代碼中就是同步塊——synchronized關鍵字，因此在synchronized塊之間的操作也具備原子性。

• 可見性（Visibility）：

  • 可見性是指當一個線程修改了共享變量的值，其他線程能夠立即得知這個修改。上文在講解volatile變量的時候我們已詳細討論過這一點。Java內存模型是通過在變量修改后將新值同步回主內存，在變量讀取前從主內存刷新變量值這種依賴主內存作為傳遞媒介的方式來實現可見性，無論是普通變量還是volatile變量都是如此，普通變量與volatile變量的區別是，volatile的特殊規則保證了新值能立即同步到主內存，以及每次使用前立即從主內存刷新。因此可以說volatile保證了多線程操作時變量的可見性，而普通變量則不能保證這一點。

  • 除了volatile之外，Java還有兩個關鍵字能實現可見性，即synchronized和final。同步塊的可見性是由“對一個變量執行unlock操作之前，必須先把此變量同步回主內存中（執行store、write操作）”這條規則獲得的，而final關鍵字的可見性是指：被final修飾的字段在構造器中一旦初始化完成，并且構造器沒有把“this”的引用傳遞出去（this引用逃逸是一件很危險的事情，其他線程有可能通過這個引用訪問到“初始化了一半”的對象），那在其他線程中就能看見final字段的值。

• 有序性（Ordering）：

  • Java內存模型的有序性在前面講解volatile時也詳細地討論過了，Java程序中天然的有序性可以總結為一句話：如果在本線程內觀察，所有的操作都是有序的；如果在一個線程中觀察另一個線程，所有操作都是無序的。前半句是指“線程內表現為串行的語義”（Within-Thread As-If-Serial Semantics），后半句是指“指令重排序”現象和“工作內存與主內存同步延遲”現象。

  • Java語言提供了volatile和synchronized兩個關鍵字來保證線程之間操作的有序性，volatile關鍵字本身就包含了禁止指令重排序的語義，而synchronized則是由“一個變量在同一時刻只允許一條線程對其進行lock操作”這條規則獲得的，這條規則決定了持有同一個鎖的兩個同步塊只能串行地進入。

二、其他

• 絕大多數的運算任務都不可能只靠處理器“計算”就能完成，處理器至少要與內存交互，如讀取運算數據、存儲運算結果等，這個IO操作是很難消除的（無法僅靠寄存器來完成所有運算任務）。

• 處理器高速緩存的緩存一致性協議有 MSI、MESI、MOSI、Synapse、Firefly 和 Dragon Protocol 等。

• 除了增加高速緩存之外，為了使得處理器內部的運算單元能盡量被充分利用，處理器可能會對輸入代碼進行亂序執行（out-of-order Execution）優化，處理器會在計算之后將亂序執行的結果重組，保證該結果與順序執行的結果是一致的，因此如果存在一個計算任務依賴另一個計算任務的中間結果，那么其順序性并不能靠代碼的先后順序來保證。

• 主內存就直接對應于物理硬件的內存，而為了獲取更好的運行速度，虛擬機（甚至是硬件系統本身的優化措施）可能會讓工作內存優先存儲于寄存器和高速緩存中，因為程序運行時主要訪問讀寫的是工作內存。