當一個app的功能越來越復雜,代碼量越來越多,可以遇到下面兩種情況:
- 生成的apk在2.3以前的機器無法安裝,提示INSTALL_FAILED_DEXOPT
- 方法數量過多,編譯時出錯,提示:Conversion to Dalvik format failed:Unable to execute dex: method IDnot in [0, 0xffff]: 65536
原因:
- Android2.3及以前版本用來執行dexopt(用于優化dex文件)的內存只分配了5M
- 一個dex文件最多只支持65536個方法。
解決方案:
- 使用Multidex,將編譯好的class文件拆分打包成兩個dex,繞過dex方法數量的限制以及安裝時的檢查,在運行時再動態加載第二個dex文件中。
- 使用插件化,將功能模塊分離,減少宿主apk的大小和代碼。
這里主要來說說Multidex的原理。
基本原理:
除了第一個dex文件(即正常apk包唯一包含的Dex文件),其它dex文件都以資源的方式放在安裝包中。所以我們需要將其他dex文件并在Application的onCreate回調中注入到系統的ClassLoader。并且對于那些在注入之前已經引用到的類(以及它們所在的jar),必須放入第一個Dex文件中。
PathClassLoader作為默認的類加載器,在打開應用程序的時候PathClassLoader就去加載指定的apk(解壓成dex,然后在優化成odex),也就是第一個dex文件是PathClassLoader自動加載的。所以,我們需要做的就是將其他的dex文件注入到這個PathClassLoader中去。
因為PathClassLoader和DexClassLoader的原理基本一致,從前面的分析來看,我們知道PathClassLoader里面的dex文件是放在一個Element數組里面,可以包含多個dex文件,每個dex文件是一個Element,所以我們只需要將其他的dex文件放到這個數組中去就可以了。
實現:
- 通過反射獲取PathClassLoader中的DexPathList中的Element數組(已加載了第一個dex包,由系統加載)
- 通過反射獲取DexClassLoader中的DexPathList中的Element數組(將第二個dex包加載進去)
- 將兩個Element數組合并之后,再將其賦值給PathClassLoader的Element數組
谷歌提供的MultiDex支持庫就是按照這個思路來實現的。
如何使用:
1、修改Gradle的配置,支持multidex:
android {
compileSdkVersion 21
buildToolsVersion "21.1.0"
defaultConfig {
...
minSdkVersion 14
targetSdkVersion 21
...
// Enabling multidex support.
multiDexEnabled true
}
...
}
dependencies {
compile 'com.android.support:multidex:1.0.0'
}
在manifest文件中,在application標簽下添加MultidexApplication Class的引用,如下所示:
<!--?xml version="1.0" encoding="utf-8"?-->
<manifest package="com.example.android.multidex.myapplication" xmlns:android="http://schemas.android.com/apk/res/android">
...
</application>
</manifest>
了解一下源碼:
MultiDexApplication類。
public class MultiDexApplication extends Application {
public MultiDexApplication() {
}
protected void attachBaseContext(Context base) {
super.attachBaseContext(base);
MultiDex.install(this);
}
}
原來要求使用MultiDexApplication的原因就是它重寫了Application,主要是為了將其他dex文件注入到系統的ClassLoader。
MultiDex.install(this)方法。
//源碼
public static void install(Context context) {
if(IS_VM_MULTIDEX_CAPABLE) {
Log.i("MultiDex", "VM has multidex support, MultiDex support library is disabled.");
// 可以看到,MultiDex不支持SDK版本小于4的系統
} else if(VERSION.SDK_INT < 4) {
throw new RuntimeException("Multi dex installation failed. SDK " + VERSION.SDK_INT + " is unsupported. Min SDK version is " + 4 + ".");
} else {
try {
// 獲取到應用信息
ApplicationInfo e = getApplicationInfo(context);
if(e == null) {
return;
}
Set var2 = installedApk;
synchronized(installedApk) {
// 得到我們這個應用的apk文件路徑
// 拿到這個apk文件路徑之后,后面就可以從中提取出其他的dex文件
// 并且加載dex放到一個Element數組中
String apkPath = e.sourceDir;
if(installedApk.contains(apkPath)) {
return;
}
// 將這個apk文件路徑放到一個set中
installedApk.add(apkPath);
// 得到classLoader,它就是PathClassLoader
// 后面就可以從這個PathClassLoader中拿到DexPathList中的Element數組
// 這個數組里面就包括由系統加載第一個dex包
ClassLoader loader;
try {
loader = context.getClassLoader();
} catch (RuntimeException var9) {
Log.w("MultiDex", "Failure while trying to obtain Context class loader. Must be running in test mode. Skip patching.", var9);
return;
}
// 得到apk解壓后得到的dex文件的存放目錄,放到應用的data目錄下
File dexDir = new File(e.dataDir, SECONDARY_FOLDER_NAME);
// 這個方法就是從apk中提取dex文件,放到data目錄下
List files = MultiDexExtractor.load(context, e, dexDir, false);
if(checkValidZipFiles(files)) {
// 這個方法就是將其他的dex文件注入到系統classloader中的具體操作
installSecondaryDexes(loader, dexDir, files);
} else {
files = MultiDexExtractor.load(context, e, dexDir, true);
installSecondaryDexes(loader, dexDir, files);
}
}
} catch (Exception var11) {
Log.e("MultiDex", "Multidex installation failure", var11);
throw new RuntimeException("Multi dex installation failed (" + var11.getMessage() + ").");
}
}
}
//重構代碼
public static void install(Context context) {
Log.i(TAG, "install");
// 1. 判讀是否需要執行MultiDex。
if (IS_VM_MULTIDEX_CAPABLE) {
Log.i(TAG, "VM has multidex support, MultiDex support library is disabled.");
return;
}
if (Build.VERSION.SDK_INT < MIN_SDK_VERSION) {
throw new RuntimeException("Multi dex installation failed. SDK " + Build.VERSION.SDK_INT
+ " is unsupported. Min SDK version is " + MIN_SDK_VERSION + ".");
}
try {
ApplicationInfo applicationInfo = getApplicationInfo(context);
if (applicationInfo == null) {
// Looks like running on a test Context, so just return without patching.
return;
}
// 2. 如果這個方法已經調用過一次,就不能再調用了。
synchronized (installedApk) {
String apkPath = applicationInfo.sourceDir;
if (installedApk.contains(apkPath)) {
return;
}
installedApk.add(apkPath);
// 3. 如果當前Android版本已經自身支持了MultiDex,依然可以執行MultiDex操作,
// 但是會有警告。
if (Build.VERSION.SDK_INT > MAX_SUPPORTED_SDK_VERSION) {
Log.w(TAG, "MultiDex is not guaranteed to work in SDK version "
+ Build.VERSION.SDK_INT + ": SDK version higher than "
+ MAX_SUPPORTED_SDK_VERSION + " should be backed by "
+ "runtime with built-in multidex capabilty but it's not the "
+ "case here: java.vm.version=\""
+ System.getProperty("java.vm.version") + "\"");
}
// 4. 獲取當前的ClassLoader實例,后面要做的工作,就是把其他dex文件加載后,
// 把其DexFile對象添加到這個ClassLoader實例里就完事了。
ClassLoader loader;
try {
loader = context.getClassLoader();
} catch (RuntimeException e) {
Log.w(TAG, "Failure while trying to obtain Context class loader. " +
"Must be running in test mode. Skip patching.", e);
return;
}
if (loader == null) {
Log.e(TAG,
"Context class loader is null. Must be running in test mode. "
+ "Skip patching.");
return;
}
try {
// 5. 清除舊的dex文件,注意這里不是清除上次加載的dex文件緩存。
// 獲取dex緩存目錄是,會優先獲取/data/data/<package>/code-cache作為緩存目錄。
// 如果獲取失敗,則使用/data/data/<package>/files/code-cache目錄。
// 這里清除的是第二個目錄。
clearOldDexDir(context);
} catch (Throwable t) {
Log.w(TAG, "Something went wrong when trying to clear old MultiDex extraction, "
+ "continuing without cleaning.", t);
}
// 6. 獲取緩存目錄(/data/data/<package>/code-cache)。
File dexDir = getDexDir(context, applicationInfo);
// 7. 加載緩存文件(如果有)。
List<File> files = MultiDexExtractor.load(context, applicationInfo, dexDir, false);
// 8. 檢查緩存的dex是否安全
if (checkValidZipFiles(files)) {
// 9. 安裝緩存的dex
installSecondaryDexes(loader, dexDir, files);
} else {
// 9. 從apk壓縮包里面提取dex文件
Log.w(TAG, "Files were not valid zip files. Forcing a reload.");
files = MultiDexExtractor.load(context, applicationInfo, dexDir, true);
if (checkValidZipFiles(files)) {
// 10. 安裝提取的dex
installSecondaryDexes(loader, dexDir, files);
} else {
throw new RuntimeException("Zip files were not valid.");
}
}
}
} catch (Exception e) {
Log.e(TAG, "Multidex installation failure", e);
throw new RuntimeException("Multi dex installation failed (" + e.getMessage() + ").");
}
Log.i(TAG, "install done");
}
具體代碼的分析已經在上面代碼的注釋里給出了,從這里我們也可以看出,整個MultiDex.install(Context)的過程中,關鍵的步驟就是MultiDexExtractor#load方法和MultiDex#installSecondaryDexes方法。
(這部分是題外話)其中有個MultiDex#clearOldDexDir(Context)方法,這個方法的作用是刪除/data/data//files/code-cache,一開始我以為這個方法是刪除上一次執行MultiDex后的緩存文件,不過這明顯不對,不可能每次MultiDex都重新解壓dex文件一邊,這樣每次啟動會很耗時,只有第一次冷啟動的時候才需要解壓dex文件。后來我又想是不是以前舊版的MultiDex曾經把緩存文件放在這個目錄里,現在新版本只是清除以前舊版的遺留文件?但是我找遍了整個MultiDex Repo的提交也沒有見過類似的舊版本代碼。后面我仔細看MultiDex#getDexDir這個方法才發現,原來MultiDex在獲取dex緩存目錄是,會優先獲取/data/data//code-cache作為緩存目錄,如果獲取失敗,則使用/data/data//files/code-cache目錄,而后者的緩存文件會在每次App重新啟動的時候被清除。感覺MultiDex獲取緩存目錄的邏輯不是很嚴謹,而獲取緩存目錄失敗也是MultiDex工作工程中少數有重試機制的地方,看來MultiDex真的是一個臨時的兼容方案,Google也許并不打算認真處理這些歷史的黑鍋。
MultiDexExtractor.load方法
static List<File> load(Context context, ApplicationInfo applicationInfo, File dexDir,
boolean forceReload) throws IOException {
Log.i(TAG, "MultiDexExtractor.load(" + applicationInfo.sourceDir + ", " + forceReload + ")");
final File sourceApk = new File(applicationInfo.sourceDir);
// 1. 獲取當前Apk文件的crc值。
long currentCrc = getZipCrc(sourceApk);
// Validity check and extraction must be done only while the lock file has been taken.
File lockFile = new File(dexDir, LOCK_FILENAME);
RandomAccessFile lockRaf = new RandomAccessFile(lockFile, "rw");
FileChannel lockChannel = null;
FileLock cacheLock = null;
List<File> files;
IOException releaseLockException = null;
try {
lockChannel = lockRaf.getChannel();
Log.i(TAG, "Blocking on lock " + lockFile.getPath());
// 2. 加上文件鎖,防止多進程沖突。
cacheLock = lockChannel.lock();
Log.i(TAG, lockFile.getPath() + " locked");
// 3. 先判斷是否強制重新解壓,這里第一次會優先使用已解壓過的dex文件,如果加載失敗就強制重新解壓。
// 此外,通過crc和文件修改時間,判斷如果Apk文件已經被修改(覆蓋安裝),就會跳過緩存重新解壓dex文件。
if (!forceReload && !isModified(context, sourceApk, currentCrc)) {
try {
// 4. 加載緩存的dex文件
files = loadExistingExtractions(context, sourceApk, dexDir);
} catch (IOException ioe) {
Log.w(TAG, "Failed to reload existing extracted secondary dex files,"
+ " falling back to fresh extraction", ioe);
// 5. 加載失敗的話重新解壓,并保存解壓出來的dex文件的信息。
files = performExtractions(sourceApk, dexDir);
putStoredApkInfo(context,
getTimeStamp(sourceApk), currentCrc, files.size() + 1);
}
} else {
// 4. 重新解壓,并保存解壓出來的dex文件的信息。
Log.i(TAG, "Detected that extraction must be performed.");
files = performExtractions(sourceApk, dexDir);
putStoredApkInfo(context, getTimeStamp(sourceApk), currentCrc, files.size() + 1);
}
} finally {
if (cacheLock != null) {
try {
cacheLock.release();
} catch (IOException e) {
Log.e(TAG, "Failed to release lock on " + lockFile.getPath());
// Exception while releasing the lock is bad, we want to report it, but not at
// the price of overriding any already pending exception.
releaseLockException = e;
}
}
if (lockChannel != null) {
closeQuietly(lockChannel);
}
closeQuietly(lockRaf);
}
if (releaseLockException != null) {
throw releaseLockException;
}
Log.i(TAG, "load found " + files.size() + " secondary dex files");
return files;
}
這個過程主要是獲取可以安裝的dex文件列表,可以是上次解壓出來的緩存文件,也可以是重新從Apk包里面提取出來的。需要注意的時,如果是重新解壓,這里會有明顯的耗時,而且解壓出來的dex文件,會被壓縮成.zip壓縮包,壓縮的過程也會有明顯的耗時(這里壓縮dex文件可能是問了節省空間)。
如果dex文件是重新解壓出來的,則會保存dex文件的信息,包括解壓的apk文件的crc值、修改時間以及dex文件的數目,以便下一次啟動直接使用已經解壓過的dex緩存文件,而不是每一次都重新解壓。
需要特別提到的是,里面的FileLock是最新的master分支里面新加進去的功能,現在最新的1.0.1版本里面是沒有的。
無論是通過使用緩存的dex文件,還是重新從apk中解壓dex文件,獲取dex文件列表后,下一步就是安裝(或者說加載)這些dex文件了。最后的工作在MultiDex#installSecondaryDexes這個方法里面。
MultiDex#installSecondaryDexes方法。
// loader對應的就是PathClassLoader
// dexDir是dex的存放目錄
// files對應的就是dex文件
private static void installSecondaryDexes(ClassLoader loader, File dexDir, List<File> files)
throws IllegalArgumentException, IllegalAccessException, NoSuchFieldException,
InvocationTargetException, NoSuchMethodException, IOException {
if (!files.isEmpty()) {
if (Build.VERSION.SDK_INT >= 19) {
V19.install(loader, files, dexDir);
} else if (Build.VERSION.SDK_INT >= 14) {
V14.install(loader, files, dexDir);
} else {
V4.install(loader, files);
}
}
}
因為在不同的SDK版本上,ClassLoader(更準確來說是DexClassLoader)加載dex文件的方式有所不同,所以這里做了V4/V14/V19的兼容(Magic Code)
Build.VERSION.SDK_INT < 14
/**
* Installer for platform versions 4 to 13.
*/
private static final class V4 {
private static void install(ClassLoader loader, List<File> additionalClassPathEntries)
throws IllegalArgumentException, IllegalAccessException,
NoSuchFieldException, IOException {
int extraSize = additionalClassPathEntries.size();
Field pathField = findField(loader, "path");
StringBuilder path = new StringBuilder((String) pathField.get(loader));
String[] extraPaths = new String[extraSize];
File[] extraFiles = new File[extraSize];
ZipFile[] extraZips = new ZipFile[extraSize];
DexFile[] extraDexs = new DexFile[extraSize];
for (ListIterator<File> iterator = additionalClassPathEntries.listIterator();
iterator.hasNext();) {
File additionalEntry = iterator.next();
String entryPath = additionalEntry.getAbsolutePath();
path.append(':').append(entryPath);
int index = iterator.previousIndex();
extraPaths[index] = entryPath;
extraFiles[index] = additionalEntry;
extraZips[index] = new ZipFile(additionalEntry);
extraDexs[index] = DexFile.loadDex(entryPath, entryPath + ".dex", 0);
}
// 這個版本是最簡單的。
// 只需要創建DexFile對象后,使用反射的方法分別擴展ClassLoader實例的以下字段即可。
pathField.set(loader, path.toString());
expandFieldArray(loader, "mPaths", extraPaths);
expandFieldArray(loader, "mFiles", extraFiles);
expandFieldArray(loader, "mZips", extraZips);
expandFieldArray(loader, "mDexs", extraDexs);
}
}
MultiDex.V14.install方法。
/**
* Installer for platform versions 14, 15, 16, 17 and 18.
*/
private static final class V14 {
private static void install(ClassLoader loader, List<File> additionalClassPathEntries,
File optimizedDirectory)
throws IllegalArgumentException, IllegalAccessException,
NoSuchFieldException, InvocationTargetException, NoSuchMethodException {
// 這個方法就是使用反射來得到loader的pathList字段
Field pathListField = findField(loader, "pathList");
// 得到loader的pathList字段后,我們就可以得到這個字段的值,也就是DexPathList對象
Object dexPathList = pathListField.get(loader);
// 這個方法就是將其他的dex文件Element數組和第一個dex的Element數組合并
//makeDexElements方法就是用來得到其他dex的Elements數組
expandFieldArray(dexPathList, "dexElements", makeDexElements(dexPathList,
new ArrayList<File>(additionalClassPathEntries), optimizedDirectory));
}
private static Object[] makeDexElements(
Object dexPathList, ArrayList<File> files, File optimizedDirectory)
throws IllegalAccessException, InvocationTargetException,
NoSuchMethodException {
Method makeDexElements =
findMethod(dexPathList, "makeDexElements", ArrayList.class, File.class);
return (Object[]) makeDexElements.invoke(dexPathList, files, optimizedDirectory);
}
}
合并的過程expandFieldArray方法。
// instance對應的就是pathList對象
// fieldName 對應的就是字段名,我們要得到的就是pathList對象里面的dexElements數組
// extraElements對應的就是其他dex對應的Element數組
private static void expandFieldArray(Object instance, String fieldName, Object[] extraElements) throws NoSuchFieldException, IllegalArgumentException, IllegalAccessException {
// 得到Element數組字段
Field jlrField = findField(instance, fieldName);
// 得到pathList對象里面的dexElements數組
Object[] original = (Object[])((Object[])jlrField.get(instance));
// 創建一個新的數組用來存放合并之后的結果
Object[] combined = (Object[])((Object[])Array.newInstance(original.getClass().getComponentType(), original.length + extraElements.length));
// 將第一個dex的Elements數組復制到創建的數組中去
System.arraycopy(original, 0, combined, 0, original.length);
// 將其他dex的Elements數組復制到創建的數組中去
System.arraycopy(extraElements, 0, combined, original.length, extraElements.length);
// 將得到的這個合并的新數組的值設置到pathList對象的Element數組字段上
jlrField.set(instance, combined);
}
從API14開始,DexClassLoader會使用一個DexpDexPathList類來封裝DexFile數組。
final class DexPathList {
private static final String DEX_SUFFIX = ".dex";
private static final String JAR_SUFFIX = ".jar";
private static final String ZIP_SUFFIX = ".zip";
private static final String APK_SUFFIX = ".apk";
private static Element[] makeDexElements(ArrayList<File> files,
File optimizedDirectory) {
ArrayList<Element> elements = new ArrayList<Element>();
for (File file : files) {
ZipFile zip = null;
DexFile dex = null;
String name = file.getName();
if (name.endsWith(DEX_SUFFIX)) {
// Raw dex file (not inside a zip/jar).
try {
dex = loadDexFile(file, optimizedDirectory);
} catch (IOException ex) {
System.logE("Unable to load dex file: " + file, ex);
}
} else if (name.endsWith(APK_SUFFIX) || name.endsWith(JAR_SUFFIX)
|| name.endsWith(ZIP_SUFFIX)) {
try {
zip = new ZipFile(file);
} catch (IOException ex) {
System.logE("Unable to open zip file: " + file, ex);
}
try {
dex = loadDexFile(file, optimizedDirectory);
} catch (IOException ignored) {
}
} else {
System.logW("Unknown file type for: " + file);
}
if ((zip != null) || (dex != null)) {
elements.add(new Element(file, zip, dex));
}
}
return elements.toArray(new Element[elements.size()]);
}
private static DexFile loadDexFile(File file, File optimizedDirectory)
throws IOException {
if (optimizedDirectory == null) {
return new DexFile(file);
} else {
String optimizedPath = optimizedPathFor(file, optimizedDirectory);
return DexFile.loadDex(file.getPath(), optimizedPath, 0);
}
}
}
通過調用DexPathList#makeDexElements方法,可以加載我們上面解壓得到的dex文件,從代碼也可以看出,DexPathList#makeDexElements其實也是通過調用DexFile#loadDex來加載dex文件并創建DexFile對象的。V14中,通過反射調用DexPathList#makeDexElements方法加載我們需要的dex文件,在把加載得到的數組擴展到ClassLoader實例的”pathList”字段,從而完成dex文件的安裝。
從DexPathList的代碼中我們也可以看出,ClassLoader是支持直接加載.dex/.zip/.jar/.apk的dex文件包的(我記得以前在哪篇日志中好像提到過類似的問題…)。
19 <= Build.VERSION.SDK_INT
/**
* Installer for platform versions 19.
*/
private static final class V19 {
private static void install(ClassLoader loader, List<File> additionalClassPathEntries,
File optimizedDirectory)
throws IllegalArgumentException, IllegalAccessException,
NoSuchFieldException, InvocationTargetException, NoSuchMethodException {
Field pathListField = findField(loader, "pathList");
Object dexPathList = pathListField.get(loader);
ArrayList<IOException> suppressedExceptions = new ArrayList<IOException>();
expandFieldArray(dexPathList, "dexElements", makeDexElements(dexPathList,
new ArrayList<File>(additionalClassPathEntries), optimizedDirectory,
suppressedExceptions));
if (suppressedExceptions.size() > 0) {
for (IOException e : suppressedExceptions) {
Log.w(TAG, "Exception in makeDexElement", e);
}
Field suppressedExceptionsField =
findField(dexPathList, "dexElementsSuppressedExceptions");
IOException[] dexElementsSuppressedExceptions =
(IOException[]) suppressedExceptionsField.get(dexPathList);
if (dexElementsSuppressedExceptions == null) {
dexElementsSuppressedExceptions =
suppressedExceptions.toArray(
new IOException[suppressedExceptions.size()]);
} else {
IOException[] combined =
new IOException[suppressedExceptions.size() +
dexElementsSuppressedExceptions.length];
suppressedExceptions.toArray(combined);
System.arraycopy(dexElementsSuppressedExceptions, 0, combined,
suppressedExceptions.size(), dexElementsSuppressedExceptions.length);
dexElementsSuppressedExceptions = combined;
}
suppressedExceptionsField.set(dexPathList, dexElementsSuppressedExceptions);
}
}
private static Object[] makeDexElements(
Object dexPathList, ArrayList<File> files, File optimizedDirectory,
ArrayList<IOException> suppressedExceptions)
throws IllegalAccessException, InvocationTargetException,
NoSuchMethodException {
Method makeDexElements =
findMethod(dexPathList, "makeDexElements", ArrayList.class, File.class,
ArrayList.class);
return (Object[]) makeDexElements.invoke(dexPathList, files, optimizedDirectory,
suppressedExceptions);
}
}
V19與V14差別不大,只不過DexPathList#makeDexElements方法多了一個ArrayList參數,如果在執行DexPathList#makeDexElements方法的過程中出現異常,后面使用反射的方式把這些異常記錄進DexPathList的dexElementsSuppressedExceptions字段里面。
無論是V4/V14還是V19,在創建DexFile對象的時候,都需要通過DexFile的Native方法openDexFile來打開dex文件,其具體細節暫不討論(涉及到dex的文件結構,很煩,有興趣請閱讀dalvik_system_DexFile.cpp),這個過程的主要目的是給當前的dex文件做Optimize優化處理并生成相同文件名的odex文件,App實際加載類的時候,都是通過odex文件進行的。因為每個設備對odex格式的要求都不一樣,所以這個優化的操作只能放在安裝Apk的時候處理,主dex的優化我們已經在安裝apk的時候搞定了,其余的dex就是在MultiDex#installSecondaryDexes里面優化的,而后者也是MultiDex過程中,另外一個耗時比較多的操作。(在MultiDex中,提取出來的dex文件被壓縮成.zip文件,又優化后的odex文件則被保存為.dex文件。)