1、介紹
TransmittableThreadLocal(TTL) 是 Alibaba 開源的,用于解決在使用線程池等會池化復用線程的組件情況下,提供 ThreadLocal 值的傳遞功能,解決異步執行時上下文傳遞的問題。TransmittableThreadLocal 需要配合 TTL 提供的 TtlExecutors、TtlRunnable 和 TtlCallable使用,也可以使用 Java Agent 無侵入式實現線程池的傳遞。
2、使用場景
- 調用鏈中的 traceId 傳遞
- 框架層封裝的業務工具在業務線程池中傳遞
- Slf4j 日志框架中 MDC 傳遞
3、TTL 執行流程
TTL 執行流程.png
4、源碼解析
TransmittableThreadLocal 繼承于 InheritableThreadLocal,并擁有了 InheritableThreadLocal 對子線程傳遞上下文的特性,只需解決線程池上下文傳遞問題。
4.1、項目結構
TTL 項目結構.png
4.2、核心部分源碼
在 TransmittableThreadLocal 中,定義了一個全局靜態變量 holder,用于存儲使用 TransmittableThreadLocal set 的上下文。
private static InheritableThreadLocal<Map<TransmittableThreadLocal<?>, ?>> holder =
new InheritableThreadLocal<Map<TransmittableThreadLocal<?>, ?>>() {
protected Map<TransmittableThreadLocal<?>, ?> initialValue() {
return new WeakHashMap<TransmittableThreadLocal<?>, Object>();
}
protected Map<TransmittableThreadLocal<?>, ?> childValue(Map<TransmittableThreadLocal<?>, ?> parentValue) {
return new WeakHashMap<TransmittableThreadLocal<?>, Object>(parentValue);
}
};
- initialValue 方法會在 InheritableThreadLocal 創建時被調用,默認創建一個 WeakHashMap。
- childValue 方法會在創建子線程時,Thread 調用 init 方法,會調用 ThreadLocal.createInheritedMap(parent.inheritableThreadLocals),createInheritedMap 中會創建 ThreadLocalMap,ThreadLocalMap 的構造方法中會調用 childValue 方法。
public class Thread implements Runnable {
public Thread() {
init(null, null, "Thread-" + nextThreadNum(), 0);
}
private void init(ThreadGroup g, Runnable target, String name,
long stackSize, AccessControlContext acc,
boolean inheritThreadLocals) {
Thread parent = currentThread();
// TODO 忽略其他源碼
if (inheritThreadLocals && parent.inheritableThreadLocals != null)
this.inheritableThreadLocals =
ThreadLocal.createInheritedMap(parent.inheritableThreadLocals);
// TODO 忽略其他源碼
}
}
public class ThreadLocal<T> {
static ThreadLocalMap createInheritedMap(ThreadLocalMap parentMap) {
return new ThreadLocalMap(parentMap);
}
private ThreadLocalMap(ThreadLocalMap parentMap) {
// TODO 忽略部分代碼
for (int j = 0; j < len; j++) {
if (e != null) {
ThreadLocal<Object> key = (ThreadLocal<Object>) e.get();
if (key != null) {
Object value = key.childValue(e.value);
// TODO 忽略部分代碼
}
}
}
}
}
可能有人有疑問,為什么使用 WeakHashMap。關于 WeakHashMap 不了解的,大家可以自行查詢一下。這里只是闡述一下,為什么 TTL 會使用 WeakHashMap。
- 使用 WeakHashMap 是 “繼承” ThreadLocalMap.Entry 的“優良傳統”,在沒有其它強引用的情況下,下一次GC 時才會被垃圾回收,避免內存泄露。
- 程序中可能會使用到多個 ThreadLocal,所以需要使用 Map 作為容器儲存,使用 Map 還能快速 remove 當前 ThreadLocal。
在使用線程池時,需要使用 TTL 提供的 TtlExecutors 包裝,如:
TtlExecutors.getTtlExecutor(Executors.newCachedThreadPool());
讓我們繼續跟進 TtlExecutors.getTtlExecutor 方法中,探究下這個方法里面究竟做了什么?
public final class TtlExecutors {
public static Executor getTtlExecutor(Executor executor) {
if (null == executor || executor instanceof ExecutorTtlWrapper) {
return executor;
}
return new ExecutorTtlWrapper(executor);
}
}
- 使用 ExecutorTtlWrapper 包裝 Executor。
使用 ExecutorTtlWrapper 包裝有什么用呢?那么就繼續看看 ExecutorTtlWrapper 里面的實現:
class ExecutorTtlWrapper implements Executor {
private final Executor executor;
ExecutorTtlWrapper(Executor executor) {
this.executor = executor;
}
public void execute(Runnable command) {
executor.execute(TtlRunnable.get(command));
}
// TODO 忽略部分代碼
}
- 重點是在執行 execute 方法的時候,使用 TtlRunnable 做了線程上下文的處理,再執行真正的 Runnable run 方法。
現在重點介紹一下 TtlRunnable 里面做了什么處理:
public final class TtlRunnable implements Runnable {
private final AtomicReference<Object> capturedRef;
private final Runnable runnable;
private final boolean releaseTtlValueReferenceAfterRun;
private TtlRunnable(Runnable runnable, boolean releaseTtlValueReferenceAfterRun) {
this.capturedRef = new AtomicReference<Object>(TransmittableThreadLocal.Transmitter.capture());
// TODO 忽略部分代碼
}
public void run() {
Object captured = capturedRef.get();
// TODO 忽略部分代碼
Object backup = TransmittableThreadLocal.Transmitter.replay(captured);
try {
runnable.run();
} finally {
TransmittableThreadLocal.Transmitter.restore(backup);
}
}
public static TtlRunnable get(Runnable runnable, boolean releaseTtlValueReferenceAfterRun, boolean idempotent) {
// TODO 忽略部分代碼
return new TtlRunnable(runnable, releaseTtlValueReferenceAfterRun);
}
}
public static class Transmitter {
public static Object capture() {
Map<TransmittableThreadLocal<?>, Object> captured = new HashMap<TransmittableThreadLocal<?>, Object>();
for (TransmittableThreadLocal<?> threadLocal : holder.get().keySet()) {
captured.put(threadLocal, threadLocal.copyValue());
}
return captured;
}
public static Object replay(Object captured) {
Map<TransmittableThreadLocal<?>, Object> capturedMap = (Map<TransmittableThreadLocal<?>, Object>) captured;
Map<TransmittableThreadLocal<?>, Object> backup = new HashMap<TransmittableThreadLocal<?>, Object>();
for (Iterator<? extends Map.Entry<TransmittableThreadLocal<?>, ?>> iterator = holder.get().entrySet().iterator();
iterator.hasNext(); ) {
Map.Entry<TransmittableThreadLocal<?>, ?> next = iterator.next();
TransmittableThreadLocal<?> threadLocal = next.getKey();
// backup
backup.put(threadLocal, threadLocal.get());
// clear the TTL values that is not in captured
// avoid the extra TTL values after replay when run task
if (!capturedMap.containsKey(threadLocal)) {
iterator.remove();
threadLocal.superRemove();
}
}
// set values to captured TTL
setTtlValuesTo(capturedMap);
// call beforeExecute callback
doExecuteCallback(true);
return backup;
}
public static void restore(Object backup) {
Map<TransmittableThreadLocal<?>, Object> backupMap = (Map<TransmittableThreadLocal<?>, Object>) backup;
// call afterExecute callback
doExecuteCallback(false);
for (Iterator<? extends Map.Entry<TransmittableThreadLocal<?>, ?>> iterator = holder.get().entrySet().iterator();
iterator.hasNext(); ) {
Map.Entry<TransmittableThreadLocal<?>, ?> next = iterator.next();
TransmittableThreadLocal<?> threadLocal = next.getKey();
// clear the TTL values that is not in backup
// avoid the extra TTL values after restore
if (!backupMap.containsKey(threadLocal)) {
iterator.remove();
threadLocal.superRemove();
}
}
// restore TTL values
setTtlValuesTo(backupMap);
}
private static void setTtlValuesTo(Map<TransmittableThreadLocal<?>, Object> ttlValues) {
for (Map.Entry<TransmittableThreadLocal<?>, Object> entry : ttlValues.entrySet()) {
TransmittableThreadLocal<Object> threadLocal = (TransmittableThreadLocal<Object>) entry.getKey();
threadLocal.set(entry.getValue());
}
}
}
- TtlRunnable 是實現于 Runnable,所以線程池執行的是 TtlRunnable,但是在 TtlRunnable run 方法中會執行 Runnable run 方法。
- 線程池執行時,執行了 ExecutorTtlWrapper execute 方法,execute 方法中調用了 TtlRunnable.get(command) ,get 方法中創建了一個 TtlRunnable 對象返回了。
- TtlRunnable 構造方法中,調用了 TransmittableThreadLocal.Transmitter.capture() 獲取當前線程中所有的上下文,并儲存在 AtomicReference 中。
- 當線程執行時,調用 TtlRunnable run 方法,TtlRunnable 會從 AtomicReference 中獲取出調用線程中所有的上下文,并把上下文給 TransmittableThreadLocal.Transmitter.replay 方法把上下文復制到當前線程。并把上下文備份。
- 當線程執行完,調用 TransmittableThreadLocal.Transmitter.restore 并把備份的上下文傳入,恢復備份的上下文,把后面新增的上下文刪除,并重新把上下文復制到當前線程。
PS:
- Log4j2 MDC 集成 TTL
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>log4j2-ttl-thread-context-map</artifactId>
<version>1.2.0</version>
</dependency>
- Logback MDC 集成 TTL
<dependency>
<groupId>com.ofpay</groupId>
<artifactId>logback-mdc-ttl</artifactId>
<version>1.0.2</version>
</dependency>
- ThreadLocal 使用:http://www.lxweimin.com/p/4093add7f2cd
- TTL GitHub:https://github.com/alibaba/transmittable-thread-local