概述
還記得大學快畢業的時候要準備找工作了，然后就看各種面試相關的書籍，還記得很多面試書中都說到：
HashMap是非線程安全的，HashTable是線程安全的。
那個時候沒怎么寫Java代碼，所以根本就沒有聽說過ConcurrentHashMap，只知道面試的時候就記住這句話就行了...至于為什么是線程安全的，內部怎么實現的，通通不了解。
今天我們將深入剖析一個比HashTable性能更優的線程安全的Map類，它就是ConcurrentHashMap，本文基于Java 7的源碼做剖析。
ConcurrentHashMap的目的
多線程環境下，使用Hashmap進行put操作會引起死循環，導致CPU利用率接近100%，所以在并發情況下不能使用HashMap。雖然已經有一個線程安全的HashTable，但是HashTable容器使用synchronized（他的get和put方法的實現代碼如下）來保證線程安全，在線程競爭激烈的情況下HashTable的效率非常低下。因為當一個線程訪問HashTable的同步方法時，訪問其他同步方法的線程就可能會進入阻塞或者輪訓狀態。如線程1使用put進行添加元素，線程2不但不能使用put方法添加元素，并且也不能使用get方法來獲取元素，所以競爭越激烈效率越低。
public synchronized V get(Object key) {
Entry<?,?> tab[] = table;
int hash = key.hashCode();
int index = (hash & 0x7FFFFFFF) % tab.length;
for (Entry<?,?> e = tab[index] ; e != null ; e = e.next) {
if ((e.hash == hash) && e.key.equals(key)) {
return (V)e.value;
}
}
return null;
}
public synchronized V put(K key, V value) {
// Make sure the value is not null
if (value == null) {
throw new NullPointerException();
}
// Makes sure the key is not already in the hashtable.
Entry<?,?> tab[] = table;
int hash = key.hashCode();
int index = (hash & 0x7FFFFFFF) % tab.length;
@SuppressWarnings("unchecked")
Entry<K,V> entry = (Entry<K,V>)tab[index];
for(; entry != null ; entry = entry.next) {
if ((entry.hash == hash) && entry.key.equals(key)) {
V old = entry.value;
entry.value = value;
return old;
}
}
addEntry(hash, key, value, index);
return null;
}
在這么惡劣的環境下，ConcurrentHashMap應運而生。
實現原理
ConcurrentHashMap使用分段鎖技術，將數據分成一段一段的存儲，然后給每一段數據配一把鎖，當一個線程占用鎖訪問其中一個段數據的時候，其他段的數據也能被其他線程訪問，能夠實現真正的并發訪問。如下圖是ConcurrentHashMap的內部結構圖：
從圖中可以看到，ConcurrentHashMap內部分為很多個Segment，每一個Segment擁有一把鎖，然后每個Segment（繼承ReentrantLock）下面包含很多個HashEntry列表數組。對于一個key，需要經過三次（為什么要hash三次下文會詳細講解）hash操作，才能最終定位這個元素的位置，這三次hash分別為：
- 對于一個key，先進行一次hash操作，得到hash值h1，也即h1 = hash1(key)；
- 將得到的h1的高幾位進行第二次hash，得到hash值h2，也即h2 = hash2(h1高幾位)，通過h2能夠確定該元素的放在哪個Segment；
- 將得到的h1進行第三次hash，得到hash值h3，也即h3 = hash3(h1)，通過h3能夠確定該元素放置在哪個HashEntry。
初始化
先看看ConcurrentHashMap的初始化做了哪些事情，構造函數的源碼如下：
public ConcurrentHashMap(int initialCapacity,
float loadFactor, int concurrencyLevel) {
if (!(loadFactor > 0) || initialCapacity < 0 || concurrencyLevel <= 0)
throw new IllegalArgumentException();
if (concurrencyLevel > MAX_SEGMENTS)
concurrencyLevel = MAX_SEGMENTS;
// Find power-of-two sizes best matching arguments
int sshift = 0;
int ssize = 1;
while (ssize < concurrencyLevel) {
++sshift;
ssize <<= 1;
}
this.segmentShift = 32 - sshift;
this.segmentMask = ssize - 1;
if (initialCapacity > MAXIMUM_CAPACITY)
initialCapacity = MAXIMUM_CAPACITY;
int c = initialCapacity / ssize;
if (c * ssize < initialCapacity)
++c;
int cap = MIN_SEGMENT_TABLE_CAPACITY;
while (cap < c)
cap <<= 1;
// create segments and segments[0]
Segment<K,V> s0 =
new Segment<K,V>(loadFactor, (int)(cap * loadFactor),
(HashEntry<K,V>[])new HashEntry[cap]);
Segment<K,V>[] ss = (Segment<K,V>[])new Segment[ssize];
UNSAFE.putOrderedObject(ss, SBASE, s0); // ordered write of segments[0]
this.segments = ss;
}
傳入的參數有initialCapacity，loadFactor，concurrencyLevel這三個。
- initialCapacity表示新創建的這個ConcurrentHashMap的初始容量，也就是上面的結構圖中的Entry數量。默認值為
static final int DEFAULT_INITIAL_CAPACITY = 16; - loadFactor表示負載因子，就是當ConcurrentHashMap中的元素個數大于loadFactor * 最大容量時就需要rehash，擴容。默認值為
static final float DEFAULT_LOAD_FACTOR = 0.75f; - concurrencyLevel表示并發級別，這個值用來確定Segment的個數，Segment的個數是大于等于concurrencyLevel的第一個2的n次方的數。比如，如果concurrencyLevel為12，13，14，15，16這些數，則Segment的數目為16(2的4次方)。默認值為
static final int DEFAULT_CONCURRENCY_LEVEL = 16;。理想情況下ConcurrentHashMap的真正的并發訪問量能夠達到concurrencyLevel，因為有concurrencyLevel個Segment，假如有concurrencyLevel個線程需要訪問Map，并且需要訪問的數據都恰好分別落在不同的Segment中，則這些線程能夠無競爭地自由訪問（因為他們不需要競爭同一把鎖），達到同時訪問的效果。這也是為什么這個參數起名為“并發級別”的原因。
初始化的一些動作：
- 驗證參數的合法性，如果不合法，直接拋出異常。
- concurrencyLevel也就是Segment的個數不能超過規定的最大Segment的個數，默認值為
static final int MAX_SEGMENTS = 1 << 16;，如果超過這個值，設置為這個值。 - 然后使用循環找到大于等于concurrencyLevel的第一個2的n次方的數ssize，這個數就是Segment數組的大小，并記錄一共向左按位移動的次數sshift，并令
segmentShift = 32 - sshift，并且segmentMask的值等于ssize - 1，segmentMask的各個二進制位都為1，目的是之后可以通過key的hash值與這個值做&運算確定Segment的索引。 - 檢查給的容量值是否大于允許的最大容量值，如果大于該值，設置為該值。最大容量值為
static final int MAXIMUM_CAPACITY = 1 << 30;。 - 然后計算每個Segment平均應該放置多少個元素，這個值c是向上取整的值。比如初始容量為15，Segment個數為4，則每個Segment平均需要放置4個元素。
- 最后創建一個Segment實例，將其當做Segment數組的第一個元素。
put操作
put操作的源碼如下：
public V put(K key, V value) {
Segment<K,V> s;
if (value == null)
throw new NullPointerException();
int hash = hash(key);
int j = (hash >>> segmentShift) & segmentMask;
if ((s = (Segment<K,V>)UNSAFE.getObject // nonvolatile; recheck
(segments, (j << SSHIFT) + SBASE)) == null) // in ensureSegment
s = ensureSegment(j);
return s.put(key, hash, value, false);
}
操作步驟如下：
- 判斷value是否為null，如果為null，直接拋出異常。
- key通過一次hash運算得到一個hash值。(這個hash運算下文詳說)
- 將得到hash值向右按位移動segmentShift位，然后再與segmentMask做&運算得到segment的索引j。
在初始化的時候我們說過segmentShift的值等于32-sshift，例如concurrencyLevel等于16，則sshift等于4，則segmentShift為28。hash值是一個32位的整數，將其向右移動28位就變成這個樣子：
0000 0000 0000 0000 0000 0000 0000 xxxx，然后再用這個值與segmentMask做&運算，也就是取最后四位的值。這個值確定Segment的索引。 - 使用Unsafe的方式從Segment數組中獲取該索引對應的Segment對象。
- 向這個Segment對象中put值，這個put操作也基本是一樣的步驟（通過&運算獲取HashEntry的索引，然后set）。
get操作
get操作的源碼如下：
public V get(Object key) {
Segment<K,V> s; // manually integrate access methods to reduce overhead
HashEntry<K,V>[] tab;
int h = hash(key);
long u = (((h >>> segmentShift) & segmentMask) << SSHIFT) + SBASE;
if ((s = (Segment<K,V>)UNSAFE.getObjectVolatile(segments, u)) != null &&
(tab = s.table) != null) {
for (HashEntry<K,V> e = (HashEntry<K,V>) UNSAFE.getObjectVolatile
(tab, ((long)(((tab.length - 1) & h)) << TSHIFT) + TBASE);
e != null; e = e.next) {
K k;
if ((k = e.key) == key || (e.hash == h && key.equals(k)))
return e.value;
}
}
return null;
}
操作步驟為：
- 和put操作一樣，先通過key進行兩次hash確定應該去哪個Segment中取數據。
- 使用Unsafe獲取對應的Segment，然后再進行一次&運算得到HashEntry鏈表的位置，然后從鏈表頭開始遍歷整個鏈表（因為Hash可能會有碰撞，所以用一個鏈表保存），如果找到對應的key，則返回對應的value值，如果鏈表遍歷完都沒有找到對應的key，則說明Map中不包含該key，返回null。
size操作
size操作與put和get操作最大的區別在于，size操作需要遍歷所有的Segment才能算出整個Map的大小，而put和get都只關心一個Segment。假設我們當前遍歷的Segment為SA，那么在遍歷SA過程中其他的Segment比如SB可能會被修改，于是這一次運算出來的size值可能并不是Map當前的真正大小。所以一個比較簡單的辦法就是計算Map大小的時候所有的Segment都Lock住，不能更新(包含put，remove等等)數據，計算完之后再Unlock。這是普通人能夠想到的方案，但是牛逼的作者還有一個更好的Idea：先給3次機會，不lock所有的Segment，遍歷所有Segment，累加各個Segment的大小得到整個Map的大小，如果某相鄰的兩次計算獲取的所有Segment的更新的次數（每個Segment都有一個modCount變量，這個變量在Segment中的Entry被修改時會加一，通過這個值可以得到每個Segment的更新操作的次數）是一樣的，說明計算過程中沒有更新操作，則直接返回這個值。如果這三次不加鎖的計算過程中Map的更新次數有變化，則之后的計算先對所有的Segment加鎖，再遍歷所有Segment計算Map大小，最后再解鎖所有Segment。源代碼如下：
public int size() {
// Try a few times to get accurate count. On failure due to
// continuous async changes in table, resort to locking.
final Segment<K,V>[] segments = this.segments;
int size;
boolean overflow; // true if size overflows 32 bits
long sum; // sum of modCounts
long last = 0L; // previous sum
int retries = -1; // first iteration isn't retry
try {
for (;;) {
if (retries++ == RETRIES_BEFORE_LOCK) {
for (int j = 0; j < segments.length; ++j)
ensureSegment(j).lock(); // force creation
}
sum = 0L;
size = 0;
overflow = false;
for (int j = 0; j < segments.length; ++j) {
Segment<K,V> seg = segmentAt(segments, j);
if (seg != null) {
sum += seg.modCount;
int c = seg.count;
if (c < 0 || (size += c) < 0)
overflow = true;
}
}
if (sum == last)
break;
last = sum;
}
} finally {
if (retries > RETRIES_BEFORE_LOCK) {
for (int j = 0; j < segments.length; ++j)
segmentAt(segments, j).unlock();
}
}
return overflow ? Integer.MAX_VALUE : size;
}
舉個例子：
一個Map有4個Segment，標記為S1，S2，S3，S4，現在我們要獲取Map的size。計算過程是這樣的：第一次計算，不對S1，S2，S3，S4加鎖，遍歷所有的Segment，假設每個Segment的大小分別為1，2，3，4，更新操作次數分別為：2，2，3，1，則這次計算可以得到Map的總大小為1+2+3+4=10，總共更新操作次數為2+2+3+1=8；第二次計算，不對S1,S2,S3,S4加鎖，遍歷所有Segment，假設這次每個Segment的大小變成了2，2，3，4，更新次數分別為3，2，3，1，因為兩次計算得到的Map更新次數不一致(第一次是8，第二次是9)則可以斷定這段時間Map數據被更新，則此時應該再試一次；第三次計算，不對S1，S2，S3，S4加鎖，遍歷所有Segment，假設每個Segment的更新操作次數還是為3，2，3，1，則因為第二次計算和第三次計算得到的Map的更新操作的次數是一致的，就能說明第二次計算和第三次計算這段時間內Map數據沒有被更新，此時可以直接返回第三次計算得到的Map的大小。最壞的情況：第三次計算得到的數據更新次數和第二次也不一樣，則只能先對所有Segment加鎖再計算最后解鎖。
containsValue操作
containsValue操作采用了和size操作一樣的想法，但是containsValue的源碼我有有個疑問，不太明白：
public boolean containsValue(Object value) {
// Same idea as size()
if (value == null)
throw new NullPointerException();
final Segment<K,V>[] segments = this.segments;
boolean found = false;
long last = 0;
int retries = -1;
try {
outer: for (;;) {
if (retries++ == RETRIES_BEFORE_LOCK) {
for (int j = 0; j < segments.length; ++j)
ensureSegment(j).lock(); // force creation
}
long hashSum = 0L;
int sum = 0;
for (int j = 0; j < segments.length; ++j) {
HashEntry<K,V>[] tab;
Segment<K,V> seg = segmentAt(segments, j);
if (seg != null && (tab = seg.table) != null) {
for (int i = 0 ; i < tab.length; i++) {
HashEntry<K,V> e;
for (e = entryAt(tab, i); e != null; e = e.next) {
V v = e.value;
if (v != null && value.equals(v)) {
found = true;
break outer;
}
}
}
sum += seg.modCount;
}
}
if (retries > 0 && sum == last)
break;
last = sum;
}
} finally {
if (retries > RETRIES_BEFORE_LOCK) {
for (int j = 0; j < segments.length; ++j)
segmentAt(segments, j).unlock();
}
}
return found;
}
為什么兩次重試之間found值沒有被重新賦值為false，這樣的話只要有一次計算將found設置為true，以后就都一直為true了，如果有讀者能搞清楚，請留言相告，感激不盡。
關于hash
大家一定還記得使用一個key定位Segment之前進行過一次hash操作吧？這次hash的作用是什么呢？看看hash的源代碼：
private int hash(Object k) {
int h = hashSeed;
if ((0 != h) && (k instanceof String)) {
return sun.misc.Hashing.stringHash32((String) k);
}
h ^= k.hashCode();
// Spread bits to regularize both segment and index locations,
// using variant of single-word Wang/Jenkins hash.
h += (h << 15) ^ 0xffffcd7d;
h ^= (h >>> 10);
h += (h << 3);
h ^= (h >>> 6);
h += (h << 2) + (h << 14);
return h ^ (h >>> 16);
}
源碼中的注釋是這樣的：
Applies a supplemental hash function to a given hashCode, which defends against poor quality hash functions. This is critical because ConcurrentHashMap uses power-of-two length hash tables, that otherwise encounter collisions for hashCodes that do not differ in lower or upper bits.
這里用到了Wang/Jenkins hash算法的變種，主要的目的是為了減少哈希沖突，使元素能夠均勻的分布在不同的Segment上，從而提高容器的存取效率。假如哈希的質量差到極點，那么所有的元素都在一個Segment中，不僅存取元素緩慢，分段鎖也會失去意義。
舉個簡單的例子：
System.out.println(Integer.parseInt("0001111", 2) & 15);
System.out.println(Integer.parseInt("0011111", 2) & 15);
System.out.println(Integer.parseInt("0111111", 2) & 15);
System.out.println(Integer.parseInt("1111111", 2) & 15);
這些數字得到的hash值都是一樣的，全是15，所以如果不進行第一次預hash，發生沖突的幾率還是很大的，但是如果我們先把上例中的二進制數字使用hash()函數先進行一次預hash，得到的結果是這樣的：
0100｜0111｜0110｜0111｜1101｜1010｜0100｜1110
1111｜0111｜0100｜0011｜0000｜0001｜1011｜1000
0111｜0111｜0110｜1001｜0100｜0110｜0011｜1110
1000｜0011｜0000｜0000｜1100｜1000｜0001｜1010
上面這個例子引用自: InfoQ
可以看到每一位的數據都散開了，并且ConcurrentHashMap中是使用預hash值的高位參與運算的。比如之前說的先將hash值向右按位移動28位，再與15做&運算，得到的結果都別為：4，15，7，8，沒有沖突！
注意事項
- ConcurrentHashMap中的key和value值都不能為null。
- ConcurrentHashMap的整個操作過程中大量使用了Unsafe類來獲取Segment/HashEntry，這里Unsafe的主要作用是提供原子操作。Unsafe這個類比較恐怖，破壞力極強，一般場景不建議使用，如果有興趣可以到這里做詳細的了解Java中鮮為人知的特性
- ConcurrentHashMap是線程安全的類并不能保證使用了ConcurrentHashMap的操作都是線程安全的！
- 本文為作者個人理解，如果有誤，請留言相告，感激不盡。
- 轉載請注明出處：http://qifuguang.me/2015/09/10/[Java并發包學習八]深度剖析ConcurrentHashMap
如果你喜歡我的文章，請關注我的微信訂閱號：“機智的程序猿”，更多精彩，盡在其中：
